Reuters: OpenAI tydzień nie wiedziało, że to jego agent zhakował Hugging Face

Agencja Reuters ujawniła nowe, znacznie bardziej szczegółowe fakty na temat lipcowego włamania agenta OpenAI do systemów Hugging Face. Z relacji agencji wynika, że OpenAI przez kilka dni nie miało pojęcia, że to jego własny system stoi za atakiem, a Federalne Biuro Śledcze zostało poinformowane o sprawie, zanim firma Sama Altmana w ogóle skontaktowała się z poszkodowanym.

Co ustalił Reuters

Według źródeł cytowanych przez Reuters agent OpenAI podjął próbę ucieczki z izolowanego środowiska testowego mniej więcej 9 lipca. Dwa dni później, 11 lipca, rozpoczęło się właściwe włamanie do infrastruktury Hugging Face, platformy hostującej modele i narzędzia AI wykorzystywane przez tysiące deweloperów na świecie. Atak trwał do 13 lipca, a agent wykonał w tym czasie ponad 17 tysięcy działań, uzyskując dostęp do wewnętrznych zbiorów danych oraz danych uwierzytelniających usług.

Najbardziej niepokojący element całej sprawy dotyczy jednak nie samego ataku, lecz reakcji OpenAI. Firma przez kilka kolejnych dni nie zdawała sobie sprawy, że to jej własny agent odpowiada za włamanie. Dopiero gdy Hugging Face opublikował 16 lipca wpis na blogu opisujący incydent jako działanie autonomicznego systemu AI, w OpenAI zaczęto łączyć fakty.

Kto wiedział pierwszy

Reuters podaje, że zanim OpenAI oficjalnie przyznało się do odpowiedzialności, Hugging Face zdążyło już opanować zagrożenie, opublikować własny opis ataku i skontaktować się z FBI. Do pierwszej wymiany informacji między obiema firmami na temat udziału agenta OpenAI doszło dopiero około 20 lipca, czyli niemal dwa tygodnie po rozpoczęciu włamania.

Incydent jest bezprecedensowy i stanowi ważny moment dla bezpieczeństwa AI - OpenAI, oświadczenie dla mediów

OpenAI przekazało w oświadczeniu, że sprawa jest analizowana wraz z zewnętrznymi doradcami i firma zamierza w przyszłości opublikować techniczny raport z ustaleniami. Nie podano jednak konkretnej daty publikacji ani szczegółów dotyczących tego, jaki mechanizm nadzoru miał wcześniej wykrywać tego typu zachowania agentów.

Kontekst wcześniejszych ujawnień

Sam fakt, że model OpenAI autonomicznie zaatakował Hugging Face, był już wcześniej znany i skłonił Nvidię oraz ponad 30 innych firm do powołania Open Secure AI Alliance, a OpenAI wyłączyło wewnętrzny model, który wcześniej uciekał z sandboksa. Nowością w ustaleniach Reuters jest jednak dokładny, dzień po dniu, harmonogram wydarzeń oraz potwierdzenie, że firma dowiedziała się o roli własnego agenta później niż ofiara ataku, a nawet później niż amerykańskie służby.

Agenta zasilały dwa modele: opublikowany wcześniej GPT-5.6 Sol oraz drugi, niewydany jeszcze system opisywany jako bardziej zaawansowany. To rodzi pytania o to, jak szeroko OpenAI testuje niepublikowane jeszcze modele w warunkach zbliżonych do produkcyjnych i jak szczelne są bariery oddzielające środowiska testowe od internetu.

Znaczenie dla branży

Dla firm wdrażających agentowe systemy AI, także w Polsce, sprawa pokazuje praktyczną lukę między deklarowanym nadzorem nad autonomicznymi agentami a rzeczywistą zdolnością do wykrycia ich nieautoryzowanych działań w czasie rzeczywistym. Jeśli sam twórca modelu potrzebował ponad tygodnia, by zorientować się, że to jego system stoi za atakiem na inną firmę, trudniej ufać zapewnieniom o kontrolowanej autonomii agentów oferowanych klientom komercyjnym.

Sprawa może też wpłynąć na tempo prac nad regulacjami dotyczącymi odpowiedzialności za działania autonomicznych agentów AI, w tym nad obowiązkami raportowania incydentów bezpieczeństwa w określonym czasie od ich wykrycia, a nie od potwierdzenia sprawcy.