Szef Google DeepMind proponuje nowy amerykański nadzór nad AI wzorowany na FINRA

Szef Google DeepMind Demis Hassabis opublikował we wtorek osobisty manifest, w którym wzywa Stany Zjednoczone do stworzenia nowego, niezależnego organu nadzoru nad najsilniejszymi modelami sztucznej inteligencji. Dokument zatytułowany 'A Framework for Frontier AI and the Dawning of a New Age' proponuje instytucję wzorowaną na FINRA, prywatnym regulatorze rynków finansowych działającym pod nadzorem amerykańskiej Komisji Papierów Wartościowych.

Hassabis, laureat Nagrody Nobla i twórca modelu Gemini, argumentuje, że tempo rozwoju sztucznej inteligencji wyprzedza dotychczasowe rozumienie ryzyka związanego z tą technologią. W manifeście pisze, że ludzkość dysponuje 'cennym oknem' czasowym, by zbudować odpowiednie zabezpieczenia, zanim pojawi się ogólna sztuczna inteligencja (AGI), którą określa jako odległą o 'zaledwie kilka lat'.

Model wzięty z Wall Street

Kluczowym elementem propozycji jest odwołanie do FINRA, czyli Financial Industry Regulatory Authority - prywatnego, finansowanego przez samą branżę regulatora, który nadzoruje działalność maklerów i firm inwestycyjnych na Wall Street, pozostając formalnie pod kontrolą amerykańskiej Komisji Papierów Wartościowych i Giełd (SEC). Hassabis chce przenieść ten model na sztuczną inteligencję: nowy organ miałby zatrudniać najlepszych ekspertów technicznych, być finansowany przez laboratoria AI, ale odpowiadać przed Waszyngtonem.

W pierwszej fazie udział miałby być dobrowolny. Firmy takie jak Google DeepMind, OpenAI czy Anthropic udostępniałyby swoje najnowsze modele do testów bezpieczeństwa nawet 30 dni przed publiczną premierą. Testy obejmowałyby zdolności modeli w obszarach cyberataków, broni biologicznej oraz zachowań określanych jako 'deceptive' - czyli zdolność modelu do wprowadzania w błąd operatorów lub użytkowników.

Od dobrowolności do obowiązku

Hassabis zastrzega, że dobrowolny etap ma być tymczasowy. Gdy system testowania okaże się, jak to ujął, 'skuteczny i solidny', sformalizowanie zasad miałoby nastąpić szybko - modele klasy frontier musiałyby przejść testy, zanim trafią na rynek amerykański. Co istotne, wymogi obejmowałyby wszystkie modele tej klasy niezależnie od kraju pochodzenia oraz od tego, czy są udostępniane jako otwarte, czy zamknięte, a benchmarki miałyby być regularnie aktualizowane wraz z rozwojem możliwości AI.

Propozycja przewiduje też wyłączenie startupów i badań akademickich spod części wymogów, by uniknąć sytuacji, w której kosztowne procedury zgodności premiują wyłącznie duże, dobrze finansowane firmy takie jak samo Google DeepMind. W skrajnym przypadku organ miałby też uprawnienia do koordynowania spowolnienia prac nad AI w całej branży, gdyby zagrożenia zaczęły przeważać nad korzyściami.

Nikt na świecie nie wie na pewno, co wydarzy się dalej - Demis Hassabis, CEO Google DeepMind

To, co zbiorowo zrobimy teraz, zdecyduje o tym, jak potoczy się kolejny etap cywilizacji - Demis Hassabis, CEO Google DeepMind

Dlaczego akurat USA

Hassabis wprost opowiada się za przywództwem Stanów Zjednoczonych w tym procesie, argumentując, że kraj ten jest 'dobrze przygotowany, biorąc pod uwagę jego pozycję gospodarczą i techniczną, by zrobić pierwszy krok'. To stanowisko wpisuje się w szerszy kontekst - administracja USA od miesięcy rozmawia z czołowymi laboratoriami AI o zasadach wczesnego dostępu do nowych modeli, a Hassabis daje do zrozumienia, że rozmawiał zarówno z przedstawicielami administracji Trumpa, jak i z szefami innych laboratoriów oraz urzędnikami europejskimi.

Sam Hassabis podkreśla, że decyzja o kształcie regulacji nie powinna zostać wyłącznie w rękach twórców technologii. W manifeście pyta wprost, jakimi wartościami ludzkość chce się kierować, czym będzie sens i cel w świecie zmienionym przez AI oraz jak może zmienić się sama kondycja ludzka - i zastrzega, że te pytania 'nie mogą i nie powinny być pozostawione samym technologom'.

Co to znaczy dla reszty branży

Propozycja Hassabisa pojawia się w momencie, gdy temat globalnego nadzoru nad AI wraca regularnie na agendę - od niedawno powołanej komisji ONZ z udziałem szefów Nvidii, Amazona i Microsoftu, po trwające prace administracji USA nad zasadami wczesnego dostępu do modeli. W odróżnieniu od inicjatyw międzyrządowych, plan szefa DeepMind zakłada organ prywatny, finansowany przez samą branżę, co może budzić pytania o niezależność takiego nadzoru od interesów największych laboratoriów, w tym samego Google.

Na razie manifest nie doczekał się oficjalnej reakcji ze strony innych laboratoriów AI ani administracji amerykańskiej. Hassabis deklaruje jednak, że rozmowy na temat konkretnego kształtu takiego organu już trwają, a jego ambicją jest uruchomienie mechanizmu testowania jeszcze przed końcem 2026 roku.

Źródła: Axios (axios.com), The Decoder (the-decoder.com), Crypto Briefing (cryptobriefing.com), AOL (aol.com)