ONZ ostrzega: okno na kontrolę nad sztuczną inteligencją może się zamknąć

Niezależny panel naukowy przy Organizacji Narodów Zjednoczonych opublikował 2 lipca raport, który ostrzega przed narastającą przepaścią między tempem rozwoju sztucznej inteligencji a zdolnością rządów do jej nadzorowania. Autorzy piszą wprost, że okno czasowe na zbudowanie skutecznej kontroli wciąż jest otwarte, ale może się wkrótce zamknąć.

Co ustalił panel ekspertów

Konkluzja raportu jest surowa: obecne mechanizmy kontrolne są rozproszone między dziesiątki krajowych i branżowych inicjatyw, a rzadko kiedy ktokolwiek sprawdza, czy realnie działają.

Systemy AI, o których mowa, już dziś samodzielnie piszą kod, analizują ogromne zbiory danych i generują realistyczne wideo. Panel podkreśla, że to nie jest scenariusz na przyszłość, tylko opis bieżącego stanu technologii, z którym prawodawcy wciąż się nie zmierzyli.

Autorzy nie negują korzyści. Wskazują na sukcesy w rodzaju przewidywania struktur ponad 200 milionów białek, co przyspiesza odkrywanie nowych leków i szczepionek. Problem w tym, że te same modele bazowe stoją też za falą deepfake'ów podważających zaufanie do debaty publicznej, cyberataków i oszustw finansowych na masową skalę.

Rachunek środowiskowy

Do raportu dołączają ustalenia Uniwersytetu Narodów Zjednoczonych, które precyzują koszt środowiskowy infrastruktury AI do 2030 roku. Globalne centra danych mają wtedy zużywać rocznie 945 terawatogodzin energii, czyli niemal trzykrotnie więcej niż łączne roczne zużycie Pakistanu, Bangladeszu i Nigerii.

Do tego dochodzi zużycie wody odpowiadające podstawowym rocznym potrzebom 1,3 miliarda ludzi, czyli 9,3 biliona litrów, ponad 14,5 tysiąca kilometrów kwadratowych zajętego terenu i 2,5 miliona ton elektronicznego odpadu rocznie. Autorzy podkreślają, że korzyści i koszty tego rozwoju są dziś rozłożone bardzo nierówno.

Globalna nierówność mocy obliczeniowej

Kluczowa liczba w raporcie dotyczy koncentracji zasobów: Stany Zjednoczone i Chiny kontrolują łącznie około 90 procent globalnej mocy superkomputerowej wykorzystywanej do trenowania modeli AI. Ponad 150 krajów nie ma własnej infrastruktury tej klasy, a mimo to ponosi koszty środowiskowe wydobycia surowców i utylizacji sprzętu związanego z globalnym łańcuchem dostaw AI.

Dla Polski i Unii Europejskiej to argument, który wraca w dyskusjach o suwerenności technologicznej. Polska wdraża właśnie unijny AI Act i uchwaliła własną ustawę o systemach sztucznej inteligencji, ale krajowa infrastruktura obliczeniowa pozostaje ułamkiem tego, czym dysponują amerykańskie i chińskie firmy. Oznacza to zależność od zagranicznych dostawców modeli i chmury obliczeniowej także w obszarach wrażliwych, jak administracja publiczna czy ochrona zdrowia.

Co dalej w Genewie

Raport ma realne znaczenie polityczne, bo jego ustalenia zasilą Globalny Dialog w sprawie Zarządzania AI, który rusza 6 lipca w Genewie. To tam państwa członkowskie ONZ mają rozmawiać o wspólnych ramach nadzoru nad najsilniejszymi modelami, w tym o mechanizmach testowania i raportowania, które według panelu dziś praktycznie nie istnieją.

Dla firm działających w Polsce i regionie oznacza to, że tempo regulacji może w najbliższych miesiącach przyspieszyć na dwóch frontach naraz, unijnym w ramach AI Act i globalnym w ramach ustaleń genewskich. Warto śledzić, jakie konkretne mechanizmy testowania modeli wyjdą z tych rozmów, bo mogą one z czasem stać się punktem odniesienia także dla krajowych regulatorów.

Źródła: ONZ alarmuje: Regulacje dotyczące AI nie nadążają za technologią (itreseller.pl), Koszt środowiskowy AI będzie ogromny, nowy raport ONZ (rp.pl).