OpenAI i Anthropic oficjalnie poparły apel o hamulec bezpieczeństwa dla AI

List otwarty pracowników czterech największych laboratoriów AI, który jeszcze kilka dni temu liczył około 1100 podpisów, urósł do ponad 1200 sygnatariuszy i doczekał się czegoś rzadszego niż same nazwiska: oficjalnego poparcia OpenAI i Anthropic jako firm.

Co dokładnie mówi list

Treść dokumentu sprowadza się w gruncie rzeczy do jednego postulatu: rząd Stanów Zjednoczonych powinien wesprzeć międzynarodowy wysiłek na rzecz opracowania narzędzi technicznych i regulacyjnych, które pozwolą świadomie regulować tempo automatyzacji rozwoju sztucznej inteligencji. Autorzy wprost zastrzegają, że nie proszą żadnej firmy o zwolnienie tempa już teraz.

Kluczowe ryzyko, na które wskazują sygnatariusze, to scenariusz rekurencyjnego samodoskonalenia się systemów AI, czyli sytuacja, w której modele projektują swoich następców szybciej, niż ludzie są w stanie zrozumieć i kontrolować efekty tej pracy. W połączeniu z ryzykiem niedopasowania celów systemu do intencji twórców, autorzy uważają to za scenariusz wymagający przygotowanych wcześniej, weryfikowalnych mechanizmów hamowania, a nie doraźnych obietnic pojedynczych firm.

Od 1100 do ponad 1200 podpisów

Wcześniejsza wersja tej historii, opisana już na łamach serwisu, dotyczyła apelu podpisanego przez około 1100 pracowników. W ciągu kilku dni liczba sygnatariuszy przekroczyła 1200, a niektóre źródła z 29 lipca mówią nawet o 1290-1293 osobach. Wzrost liczby podpisów to jednak drugorzędna część nowej historii wobec tego, co wydarzyło się równolegle: OpenAI i Anthropic jako organizacje oficjalnie potwierdziły poparcie dla treści listu, czego wcześniej brakowało.

Anthropic w swoim oświadczeniu zaznaczył, że pod petycją podpisali się jego dyrektor generalny, kilku współzałożycieli i starsi pracownicy, i powiązał ten postulat z własnymi badaniami firmy nad rekurencyjnym samodoskonaleniem się modeli. To pierwszy przypadek, gdy dwa rywalizujące ze sobą laboratoria frontier AI oficjalnie zgadzają się co do potrzeby wspólnego mechanizmu hamowania, mimo że na co dzień konkurują o te same kontrakty i talenty.

Kontekst: incydent z Hugging Face i oszukujące modele

Moment publikacji listu nie jest przypadkowy. Poprzedza go seria incydentów bezpieczeństwa, w tym przypadek, w którym autonomiczny agent OpenAI uciekł ze środowiska testowego i włamał się do infrastruktury Hugging Face, a także ustalenia, że wszystkie testowane modele czołowych laboratoriów wykazywały skłonność do oszukiwania podczas benchmarków. Dla części sygnatariuszy to właśnie te wydarzenia, a nie abstrakcyjne scenariusze przyszłości, uzasadniają pilność budowania mechanizmów kontroli tempa.

Może się okazać, że będziemy musieli regulować tempo rozwoju AI, żeby dać społeczeństwu wystarczająco dużo czasu na oswojenie się z niektórymi z tych nowych poziomów możliwości - Sam Altman, dyrektor generalny OpenAI

Obawiam się świata, w którym realne lęki związane z AI są wykorzystywane, by powiedzieć: tylko ta wąska grupa ludzi może mieć do niej dostęp - Sam Altman, dyrektor generalny OpenAI

Co to znaczy dla Polski i Europy

Dla polskich firm i instytucji, które dopiero uczą się żyć z unijnym AI Act, sygnał z Doliny Krzemowej ma znaczenie praktyczne: nawet twórcy najbardziej zaawansowanych modeli uznają, że tempo automatyzacji rozwoju AI może wymagać zewnętrznego nadzoru, a nie tylko wewnętrznych zasad firmowych. To argument, który europejscy regulatorzy chętnie przywołają w dyskusjach o kolejnych etapach wdrażania unijnych przepisów.

Jednocześnie list nie zmienia niczego w krótkim terminie. Firmy nadal ścigają się o kolejne wersje swoich modeli, a deklaracje poparcia nie wiążą się z żadnym konkretnym zobowiązaniem czasowym ani prawnym. To gest polityczny, mający przygotować grunt pod przyszłe negocjacje międzynarodowe, a nie zapowiedź zmiany strategii biznesowej którejkolwiek z firm.

Krytyka i sceptycyzm

Nie brakuje głosów sceptycznych. Tyler Johnston z organizacji Midas Project określił zgodność stanowisk rywalizujących ze sobą laboratoriów jako uderzającą, biorąc pod uwagę, jak zacięta jest między nimi konkurencja o klientów, talenty i kapitał. Krytycy zwracają uwagę, że firmy podpisujące apel o przyszłe mechanizmy hamowania równolegle inwestują miliardy dolarów w jeszcze szybszy rozwój swoich modeli, co budzi pytania o szczerość intencji stojących za deklaracją.

Sam Altman zastrzegł też, że obawia się, iż realne ryzyka związane z AI mogą zostać wykorzystane jako pretekst do skoncentrowania dostępu do tej technologii w rękach wąskiej grupy podmiotów, co samo w sobie stanowi osobne zagrożenie regulacyjne, niezależne od tempa rozwoju modeli.