Guterres wzywa do zakazu autonomicznej broni na szczycie ONZ w Genewie

António Guterres postawił sprawę jasno: maszyny, które mają moc i swobodę odbierania ludziom życia bez ludzkiej kontroli, powinny zostać zakazane przez prawo międzynarodowe. Sekretarz generalny ONZ wygłosił to żądanie 8 lipca podczas pierwszego Globalnego Dialogu na temat Zarządzania Sztuczną Inteligencją w Genewie, gdzie zebrali się przedstawiciele 193 państw.

Propozycja Guterresa ma dwustopniową strukturę. Pierwszy poziom to całkowity zakaz systemów broni, które samodzielnie wybierają i atakują cele bez znaczącej kontroli człowieka. Drugi poziom to ścisła regulacja pozostałych rodzajów broni autonomicznej, które nie podejmują decyzji o zabiciu w pełni samodzielnie, ale wykorzystują AI do innych funkcji bojowych.

Trzy zagrożenia według panelu naukowego

Niezależny Międzynarodowy Panel Naukowy ds. AI, który przygotował raport na potrzeby szczytu, wskazał trzy główne zagrożenia. Pierwsze to tempo rozwoju algorytmów, które wyprzedza zdolność rządów do ich kontrolowania. Drugie to koncentracja władzy cyfrowej w rękach niewielkiej liczby korporacji. Trzecie to zdolność technologii generatywnej do skutecznego podszywania się pod rzeczywistość, co podważa zaufanie publiczne i procesy demokratyczne.

Guterres określił obecny etap rozwoju AI jako gigantyczny eksperyment prowadzony na społeczeństwach bez świadomej zgody obywateli. Dodał, że obecne pokolenie może być ostatnim, które ma szansę ustalić warunki koegzystencji ludzi i maszyn.

Machines that have the power and discretion to take human lives without human control should be prohibited by international law - António Guterres, sekretarz generalny ONZ

Luka odpowiedzialności

Kluczowym problemem prawnym, na który wskazują eksperci, jest tak zwana luka odpowiedzialności. Obecne prawo międzynarodowe nie ma mechanizmów pozwalających przypisać winę, gdy autonomiczny system uśmierci niezamierzony cel. Nie wiadomo, czy odpowiedzialność ponosi dowódca, producent oprogramowania, czy państwo wdrażające system.

Organizacja Human Rights Watch, która od lat kampanii na rzecz zakazu tak zwanej broni-zabójcy, poparła stanowisko Guterresa. Kampania Stop Killer Robots naciska na prewencyjny zakaz od 2013 roku, ale dopiero teraz temat trafił na najwyższy szczebel dyplomatyczny ONZ z konkretnym terminem.

Cztery priorytety i sprzeciw USA

Poza zakazem broni autonomicznej ONZ nakreśliła cztery priorytety dla zarządzania AI: wspólne standardy bezpieczeństwa, nienaruszalne granice ochrony praw człowieka, wsparcie dla krajów rozwijających się w budowaniu własnych kompetencji technologicznych oraz pełną przejrzystość firm rozwijających systemy AI. Do tego doszło żądanie globalnego zobowiązania na rzecz bezpieczeństwa dzieci, obejmujące rygorystyczne testowanie systemów przed wdrożeniem i politykę zerowej tolerancji wobec treści wykorzystujących nieletnich.

Stany Zjednoczone pozostają głównym hamulcowym w sprawie wiążącego traktatu. Waszyngton konsekwentnie opowiada się za dobrowolnymi kodeksami postępowania zamiast prawnie wiążących zakazów, argumentując, że systemy autonomiczne mogą być precyzyjniejsze niż przestraszeni żołnierze i ograniczać liczbę ofiar wśród cywilów. Część etyków wojskowych podziela ten pogląd, twierdząc, że roboty bojowe mogą zdjąć z żołnierzy część moralnego ciężaru prowadzenia wojny.

Znaczenie dla Polski

Polska jako członek NATO i uczestnik dyskusji o AI Act ma bezpośredni interes w wyniku tych negocjacji. Rozwój systemów autonomicznych na wschodniej flance NATO, gdzie technologie takie jak platformy Palantira już wspierają śledzenie ruchów wojsk, sprawia, że kwestia granic autonomii w uzbrojeniu przestaje być teoretyczna. Ewentualny traktat wpłynąłby też na krajowy przemysł obronny rozwijający systemy bezzałogowe.

Guterres zapowiedział, że kolejne rundy negocjacji odbędą się jeszcze w tym roku, a ONZ będzie dążyć do przyjęcia traktatu przed końcem 2026 roku. Biorąc pod uwagę opór Stanów Zjednoczonych i Rosji wobec wiążących regulacji, eksperci oceniają ten termin jako bardzo ambitny, ale sam fakt, że temat trafił na szczyt z udziałem 193 państw, uznają za przełom w dyskusji, która toczyła się dotąd głównie w wąskich gremiach eksperckich.

Źródła: Semafor (semafor.com), Rzeczpospolita Cyfrowa (cyfrowa.rp.pl), Yahoo News (yahoo.com)