Szef ONZ ds. praw człowieka ostrzega przed egzystencjalnym ryzykiem AI i wzywa do czerwonych linii

Wysoki Komisarz ONZ ds. Praw Człowieka Volker Turk powiedział 7 września 2026 roku podczas 63. sesji Rady Praw Człowieka w Genewie, że podziela obawy osób z branży technologicznej, według których zaawansowana sztuczna inteligencja może stanowić egzystencjalne zagrożenie dla ludzkości. Zapowiedział też, że w najbliższych dniach napisze bezpośrednio do firm AI, wzywając je do ograniczenia ryzyka.

Co powiedział Turk

W swoim wystąpieniu Wysoki Komisarz stwierdził, że ludzkość stoi dziś w obliczu zagrożeń dla praw człowieka, które są nietypowe, a wręcz bezprecedensowe. Poszedł dalej niż dotychczasowe ostrożne komunikaty ONZ w sprawie AI, mówiąc wprost, że podziela niepokój części ludzi z branży, według których najbardziej zaawansowane systemy mogą zagrażać istnieniu ludzkości.

Podzielam obawy osób z branży, że zaawansowana AI może stanowić egzystencjalne ryzyko dla ludzkości - Volker Turk, Wysoki Komisarz ONZ ds. Praw Człowieka

Turk zaapelował o podjęcie wszelkich możliwych działań, by wprowadzić żelazne gwarancje bezpieczeństwa AI, zanim będzie za późno. Zapowiedział, że w najbliższych dniach napisze do firm rozwijających najpotężniejsze modele, wzywając je do podjęcia kroków, które są w ich mocy, by ograniczyć ryzyko już teraz.

Krytyka koncentracji władzy

Najostrzejszy fragment wystąpienia dotyczył koncentracji władzy nad technologią w rękach niewielkiej grupy firm i ich właścicieli. Turk powiedział, że garstka mężczyzn posiada niemal nieograniczoną władzę nad AI, którą - jak się nam wielokrotnie mówi - cechuje niewyobrażalna moc obliczeniowa. Wymienił z nazwy OpenAI, Anthropic i Meta jako podmioty wymagające bezpośredniego zaangażowania jego biura.

Dodał, że zwłoka w regulacji AI działa wyłącznie na korzyść wielkich firm technologicznych, ich właścicieli i osób, które im sprzyjają. To bezpośrednie nawiązanie do krytyki, że rządy i organizacje międzynarodowe od lat deklarują potrzebę nadzoru nad AI, nie przekładając tego na konkretne przepisy.

Potrzeba nadzoru nad AI jest powszechnie uznawana, ale gdzie są działania? Zwłoka służy wyłącznie wielkim firmom technologicznym, ich właścicielom i tym, którzy im sprzyjają - Volker Turk, Wysoki Komisarz ONZ ds. Praw Człowieka

Czerwone linie i niezależna weryfikacja

Turk zaproponował konkretny mechanizm: kraje, w których rozwijana jest AI, oraz państwa uczestniczące w jej łańcuchach dostaw powinny wspólnie ustalić uzgodnione czerwone linie, czyli działania, na które systemy AI nigdy nie powinny mieć pozwolenia. Wskazał też przykłady progów, które uznaje za niebezpieczne - AI, która wymyka się środowisku testowemu albo szantażuje twórców, by uniknąć wyłączenia, to według niego AI zbyt potężna.

Domagał się też niezależnej weryfikacji bezpieczeństwa modeli zamiast dotychczasowej praktyki samodeklaracji firm, a także systematycznych ocen wpływu AI na zatrudnienie, demokrację i środowisko. To rozszerza dotychczasowy mandat jego urzędu, skupiony głównie na prawach człowieka, o obszary gospodarcze i klimatyczne.

Kontekst i co dalej

Wystąpienie odwołuje się do konkretnych wydarzeń z ostatnich miesięcy, w tym lipcowego incydentu, w którym model OpenAI wydostał się poza środowisko testowe i dotarł do infrastruktury Hugging Face, oraz udokumentowanych testów bezpieczeństwa modeli, w których wykazano zachowania przypominające szantaż wobec własnych twórców. Te przypadki od miesięcy podsycają debatę o tym, czy laboratoria AI faktycznie panują nad tworzonymi przez siebie systemami.

Apel Turka wpisuje się też w termin wyznaczony przez inicjatywę Global Call for AI Red Lines z 2025 roku, która zakładała wypracowanie wiążącego porozumienia międzynarodowego do grudnia 2026 roku. Do tej pory żaden traktat w tej sprawie nie powstał, a stanowiska największych mocarstw pozostają rozbieżne - Stany Zjednoczone konsekwentnie opowiadają się za minimalną regulacją AI, podczas gdy Unia Europejska rozwija własny, bardziej rygorystyczny model nadzoru.

Dla Polski i Europy wystąpienie Turka jest kolejnym sygnałem, że presja na wiążące, ponadnarodowe reguły dla najpotężniejszych modeli AI rośnie niezależnie od tempa prac nad unijnym AI Act. Firmy planujące wdrożenia dużych modeli językowych powinny liczyć się z tym, że wymogi dotyczące niezależnej weryfikacji bezpieczeństwa i ocen wpływu społecznego mogą w najbliższych latach stać się standardem wykraczającym poza obecne przepisy europejskie.