Szef bezpieczeństwa OpenAI odchodzi, firma łączy zespoły badań i bezpieczeństwa

OpenAI traci kolejnego lidera odpowiedzialnego za bezpieczeństwo swoich modeli. Jak podał 11 lipca magazyn Wired, Johannes Heidecke odchodzi z funkcji szefa systemów bezpieczeństwa, a jego zespół przestaje działać jako osobny pion i trafia pod skrzydła działu badawczego firmy.

Heidecke dołączył do OpenAI w 2021 roku jako analityk do spraw bezpieczeństwa AI, a stanowisko szefa systemów bezpieczeństwa objął w 2024 roku po Lilian Weng. Zajmował się między innymi dopasowaniem modeli do wartości, systemami nagród opartymi na regułach oraz ocenami gotowości modeli przed ich wdrożeniem.

Bezpieczeństwo pod skrzydłami badań

Zamiast funkcjonować jako niezależny pion nadzorujący pracę badaczy, zespół bezpieczeństwa zostaje włączony bezpośrednio do organizacji badawczej OpenAI. Kieruje nią teraz Mia Glaese, która objęła nowo utworzone stanowisko wiceprezes do spraw badań i bezpieczeństwa. Tymczasowym szefem zespołu bezpieczeństwa systemów została Saachi Jain, do czasu wyłonienia stałego następcy Heideckego.

To nie pierwsze odejście z pionu bezpieczeństwa OpenAI w ostatnich miesiącach. Andrea Vallone, kolejna liderka odpowiedzialna za bezpieczeństwo, opuściła firmę pod koniec 2025 roku. Wcześniej, w maju 2024 roku, z OpenAI odszedł Jan Leike, współlider zespołu superalignment, a jeszcze wcześniej firmę opuścił współzałożyciel i główny naukowiec Ilya Sutskever.

Argumenty za i przeciw

OpenAI przedstawia reorganizację jako sposób na ściślejsze powiązanie pracy nad bezpieczeństwem z rozwojem modeli, tak by kwestie ryzyka były uwzględniane od samego początku procesu, a nie sprawdzane dopiero na końcu jako oddzielny etap kontrolny. Krytycy wskazują na odwrotne ryzyko: bezpieczeństwo traci niezależny głos i staje się podporządkowane zespołowi, którego głównym celem jest szybsze wypuszczanie produktów.

Ważne jest, by nasza praca nad bezpieczeństwem była zintegrowana z rozwojem modeli na granicy możliwości, z wcześniejszą i bardziej bezpośrednią rolą w kształtowaniu kluczowych decyzji dotyczących modeli, produktów i premier - Mark Chen, Chief Research Officer OpenAI

Powtarzający się wzorzec

Odejście Heideckego wpisuje się w szerszy trend w branży, gdzie liderzy odpowiedzialni za bezpieczeństwo modeli regularnie opuszczają czołowe laboratoria AI, często krótko po publicznych sporach o tempo wdrażania nowych systemów względem tempa ich testowania. Obserwatorzy rynku zwracają uwagę, że podobne restrukturyzacje mogą stać się wzorcem także dla innych firm rywalizujących o pozycję lidera w wyścigu modeli.

Dla polskich i unijnych czytelników zmiana ma znaczenie praktyczne, bo zbiega się w czasie z wejściem w życie kolejnych obowiązków wynikających z unijnego AI Act, w tym zapowiedzianych na 2 sierpnia kar dla twórców najpotężniejszych modeli. Sposób, w jaki OpenAI organizuje wewnętrzny nadzór nad bezpieczeństwem, będzie miał wpływ na to, jak firma wypełnia te obowiązki wobec regulatorów w Europie.

OpenAI na razie nie podało, kiedy wybierze stałego następcę Heideckego ani czy planuje kolejne zmiany w strukturze zespołów odpowiedzialnych za ocenę ryzyka modeli. Firma zapewnia, że reorganizacja poprawi współpracę między badaczami a zespołem bezpieczeństwa, jednak efekty tej zmiany będzie można ocenić dopiero przy kolejnych premierach modeli.

Źródła: Wired za pośrednictwem Bloomberg (bloomberg.com), CryptoBriefing (cryptobriefing.com), TechBuzz AI (techbuzz.ai)