Brytyjska szefowa dyplomacji ostrzega przed "AI Hiroszimą" bez globalnych zasad

Szefowa brytyjskiej dyplomacji Yvette Cooper ostrzegła, że świat nie może czekać na "AI Hiroszimę", zanim rządy zaczną wspólnie regulować sztuczną inteligencję. W eseju opublikowanym w poniedziałek dla londyńskiego think tanku Chatham House porównała obecny moment do wczesnej ery atomowej, gdy międzynarodowe porozumienia pojawiły się dopiero po tym, jak świat zobaczył niszczycielską siłę nowej technologii.

Cooper napisała wprost, że porozumienie w sprawie broni jądrowej nadeszło dopiero po tym, jak świat zobaczył niszczycielską potęgę tej technologii w Hiroszimie. Jej zdaniem przy sztucznej inteligencji taki scenariusz jest nie do przyjęcia, bo koszt czekania na pierwszy poważny incydent może być zbyt wysoki, a technologia rozwija się szybciej niż jakakolwiek broń w historii.

Nie stać nas na czekanie na odpowiednik Hiroszimy w świecie AI, zanim zaczniemy działać - Yvette Cooper, minister spraw zagranicznych Wielkiej Brytanii

Katalog zagrożeń

W eseju Cooper wymienia konkretny katalog ryzyk, które jej zdaniem wymagają pilnej reakcji rządów. Na pierwszym miejscu stawia autonomiczne systemy uzbrojenia zdolne do podejmowania decyzji o użyciu siły bez udziału człowieka. Obok tego wskazuje cyberataki wspierane przez sztuczną inteligencję, które według brytyjskich służb wywiadowczych z grupy Five Eyes mogą stać się realnym zagrożeniem już za kilka miesięcy.

Kolejne punkty na liście to chatboty radykalizujące użytkowników i popychające ich w stronę ekstremizmu oraz ataków w świecie rzeczywistym, a także materiały przedstawiające wykorzystywanie seksualne dzieci generowane przez modele AI. Cooper podkreśla, że te zagrożenia nie są teoretyczne, tylko już dziś obserwowane przez agencje bezpieczeństwa w różnych krajach.

Dlaczego akurat teraz

Apel Cooper pojawia się w momencie, gdy temat globalnego nadzoru nad AI wraca regularnie na agendę dyplomatyczną. Sekretarz generalny ONZ Antonio Guterres wcześniej wzywał do pilnych globalnych zasad dla sztucznej inteligencji podczas dialogu w Genewie, a Cooper w swoim eseju powołuje się na podobne poparcie ze strony ONZ dla wspólnych ram bezpieczeństwa.

Różnica między nuklearną erą a obecną sytuacją polega na tym, że po Hiroszimie i Nagasaki powstały traktaty, agencje nadzoru i mechanizmy kontroli zbrojeń, które obowiązują mocarstwa nuklearne do dziś. W przypadku sztucznej inteligencji nic takiego nie istnieje między największymi graczami, mimo że modele rozwijane w USA i Chinach mają porównywalny potencjał do wywołania szkód na dużą skalę.

Co proponuje Londyn

Cooper nie ogranicza się do ostrzeżeń. Proponuje, by główne mocarstwa usiadły do rozmów i wypracowały wspólne zasady oraz reżimy testowania modeli, które mogłyby obowiązywać ponad granicami jurysdykcji. Chodzi o to, by firmy i rządy działały według tych samych minimalnych standardów bezpieczeństwa, niezależnie od tego, gdzie dany model powstał.

Wielka Brytania chce wykorzystać własne doświadczenie gospodarza pierwszego Światowego Szczytu Bezpieczeństwa AI z 2023 roku, by ponownie odegrać rolę mediatora między Waszyngtonem a Pekinem. To zadanie utrudnione przez rosnącą rywalizację technologiczną obu mocarstw, które traktują przewagę w AI jako element strategicznej rywalizacji, a nie tylko kwestię bezpieczeństwa publicznego.

Znaczenie dla Europy i Polski

Dla krajów Unii Europejskiej, w tym Polski, apel Cooper jest istotny, bo Unia jako jedyny duży blok ma już wdrożony kompleksowy akt prawny regulujący AI. Jeśli Wielka Brytania rzeczywiście doprowadzi do rozmów z USA i Chinami o wspólnych standardach, unijny AI Act może stać się punktem odniesienia albo przeciwnie, zostać zepchnięty na margines przez odrębny format negocjacyjny wielkich mocarstw.

Polskie firmy i instytucje wdrażające systemy AI będą musiały obserwować, czy powstanie jakikolwiek globalny standard testowania bezpieczeństwa modeli, bo to wpłynęłoby na wymogi certyfikacji i audytów, z którymi już teraz mierzą się podmioty objęte unijnym prawem. Na razie jednak esej Cooper to wezwanie do rozmów, nie konkretny traktat, więc efekty tej inicjatywy pozostają niepewne.

Źródła: The National (thenationalnews.com), TheNextWeb (thenextweb.com), GB News (gbnews.com)