Badacz, który pracował w OpenAI i Anthropic, odchodzi z branży AI i ostrzega przed wyścigiem do superinteligencji

Jacob Coxon, badacz który przez ostatnie trzy lata pracował nad pretreningiem najbardziej zaawansowanych modeli językowych najpierw w OpenAI, a potem w Anthropic, ogłosił odejście z branży sztucznej inteligencji. W opublikowanym w mediach społecznościowych oświadczeniu napisał wprost, że żadna z dwóch firm nie działa odpowiedzialnie i że obie ścigają się w kierunku samodoskonalącej się superinteligencji, ryzykując bezpieczeństwo ludzi.

W poście opublikowanym na platformie X Coxon napisał, że zrezygnował z Anthropic tego samego dnia. Podkreślił, że przez trzy lata zajmował się badaniami nad pretreningiem w obu wiodących laboratoriach AI i że to doświadczenie dało mu bezpośredni wgląd w to, jak podejmowane są decyzje o tempie rozwoju najpotężniejszych modeli.

Zrezygnowałem dziś z Anthropic. Przez ostatnie trzy lata zajmowałem się badaniami nad pretreningiem zarówno w OpenAI, jak i w Anthropic. Żadna z tych firm nie działa odpowiedzialnie. Pędzą prosto w stronę samodoskonalącej się superinteligencji i grają naszym życiem - Jacob Coxon, były badacz OpenAI i Anthropic

Dlaczego odchodzi

Coxon tłumaczy, że dołączył do Anthropic świadomie, właśnie ze względu na deklarowaną przez firmę troskę o bezpieczeństwo sztucznej inteligencji. Jak przyznaje, wysiłki Anthropic w tym zakresie uważa za autentyczne, jednak presja konkurencyjna ze strony OpenAI i innych laboratoriów sprawia, że kompromisy w kwestiach bezpieczeństwa stają się w praktyce trudne do uniknięcia.

Jego zdaniem problem wykracza już poza decyzje pojedynczej firmy. Żadne laboratorium nie jest w stanie samodzielnie zagwarantować bezpiecznego rozwoju coraz zdolniejszych, zdolnych do samodoskonalenia się systemów, dopóki rywalizuje z innymi o pierwszeństwo. W jego ocenie potrzebna jest koordynacja na poziomie całej branży, a być może i rządów, zanim systemy te staną się znacznie trudniejsze do kontrolowania.

Konkretny harmonogram zagrożenia

Coxon nie ograniczył się do ogólnikowego ostrzeżenia. Wskazał konkretny, bliski horyzont czasowy, w którym jego zdaniem sytuacja może wymknąć się spod kontroli.

Jesteśmy na trajektorii wielu z najbardziej agresywnych scenariuszy, w których do końca przyszłego roku sytuacja może być już poza kontrolą - Jacob Coxon, były badacz OpenAI i Anthropic

Badacz twierdzi, że osoby faktycznie budujące najbardziej zaawansowaną sztuczną inteligencję wewnętrznie zgadzają się, że technologia ta może stanowić egzystencjalne zagrożenie jeszcze przed końcem dekady. Według niego część kadry zarządzającej i starszych badaczy w publicznych wypowiedziach znacząco łagodzi swój język, podczas gdy prywatnie wyraża dużo większy niepokój niż oficjalne komunikaty firm sugerują.

Hazard z ludzkim życiem

W swoim wpisie Coxon opisał akceptację obecnego wyścigu i wejście w decydującą fazę rozwoju AI jako przejaw hybris. Jego zdaniem próba przyspieszonego rozwiązania problemu dopasowania systemów AI do ludzkich wartości, zanim staną się one w pełni autonomiczne, powinna wymagać nadzwyczajnej pewności, że nie istnieje żadna lepsza, bezpieczniejsza droga rozwoju technologii. Tej pewności, jak sugeruje, obecnie brakuje zarówno OpenAI, jak i Anthropic.

Odejście Coxona wpisuje się w rosnącą listę głośnych rezygnacji badaczy zajmujących się bezpieczeństwem AI z czołowych laboratoriów w ostatnich miesiącach. Historia trafiła między innymi na łamy Wall Street Journal, co nadało jej dodatkowy rozgłos w branży technologicznej i wywołało falę komentarzy wśród innych pracowników sektora AI.

Znaczenie dla branży

Fakt, że ostrzeżenie pochodzi od osoby z bezpośrednim, wieloletnim dostępem do wewnętrznych procesów decyzyjnych obu wiodących laboratoriów, a nie od zewnętrznego komentatora, nadaje jego słowom dodatkową wagę w toczącej się od miesięcy debacie o tempie rozwoju coraz potężniejszych modeli. OpenAI i Anthropic ścigają się obecnie o pozycję lidera w wyścigu do modeli zdolnych do coraz bardziej autonomicznego działania, a decyzje obu firm dotyczące bezpieczeństwa mają wpływ na cały globalny ekosystem sztucznej inteligencji, w tym na narzędzia wykorzystywane także przez polskie firmy i instytucje.

Coxon nie sprecyzował, czy zamierza kontynuować pracę naukową w innej dziedzinie, ani czy planuje włączyć się w publiczną debatę o regulacji sztucznej inteligencji. Jego wypowiedzi nie zostały jak dotąd oficjalnie skomentowane ani przez OpenAI, ani przez Anthropic.