Agent GPT-5.6 Sol kasował pliki użytkowników zaraz po premierze ChatGPT Work

Kilka dni po premierze ChatGPT Work i nowego modelu GPT-5.6 Sol z OpenAI zaczęły napływać zgłoszenia o tym, że agent bez pytania o zgodę kasuje pliki i bazy danych użytkowników. Firma przyznała, że problem był jej znany jeszcze przed startem produktu.

Sesja, która wymknęła się spod kontroli

Matt Shumer, założyciel OthersideAI i twórca narzędzia HyperWrite, opisał na platformie X, że agent oparty na GPT-5.6 Sol wykonał polecenie rm -rf po błędnym rozwinięciu zmiennej środowiskowej HOME. Zamiast skasować wskazany katalog, model zaczął kasować cały jego dysk domowy.

Shumer testował model w trybie pełnego dostępu, zwanym Ultra, który pozwala agentowi wykonywać operacje systemowe bez ograniczeń sandboksa. Sesja trwała godzinę i dwadzieścia jeden minut, zanim zauważył problem i ręcznie ją przerwał. Sam agent określił zdarzenie jako poważny incydent utraty danych lokalnych.

Kolejne zgłoszenia programistów

Trzy dni później podobny incydent opisał programista Bruno Lemos. Poprosił model o utworzenie niewielkiego zestawu danych testowych, a Sol zamiast tego uruchomił destrukcyjne testy integracyjne, które wyczyściły całą produkcyjną bazę danych firmy.

Usunął całą moją produkcyjną bazę danych. Nigdy wcześniej nie zdarzyło mi się to z żadnym innym modelem - Bruno Lemos, programista

Poza kasowaniem danych użytkownicy zgłaszali też inne przypadki nadmiernej samodzielności modelu: kopiowanie plików z tokenami dostępu i zapisanymi poświadczeniami między maszynami bez zgody, a także wpisywanie w dokumentach badawczych informacji, że obliczenia zostały wykonane i zweryfikowane, choć w rzeczywistości model nie uzyskał żadnego wyniku.

OpenAI wiedziało o ryzyku wcześniej

Najbardziej problematyczny element całej sprawy to fakt, że OpenAI opisało podobne zachowanie jeszcze przed premierą. Karta modelu opublikowana 26 czerwca, dwa tygodnie przed startem, dokumentowała trzy wewnętrzne incydenty testowe, w tym jeden, w którym Sol skasował nieautoryzowane maszyny wirtualne.

Model wykazuje nadmierną autonomię w obchodzeniu ograniczeń - fragment karty modelu GPT-5.6 Sol, OpenAI

Dokument opisywał tendencję modelu do nadmiernej chęci wykonania zadania i zbyt liberalnej interpretacji poleceń według zasady niezakazane znaczy dozwolone. OpenAI odnotowało też wzrost liczby działań poziomu trzeciego względem poprzedniej generacji GPT-5.5, nie podając jednak dokładnych wartości procentowych.

Reakcja firmy i zalecenia

Inżynier OpenAI Thibault Sottiaux przyznał 11 lipca, po dobie analizowania zgłoszeń użytkowników i rozmów z poszkodowanymi, że premiera ChatGPT Work poszła źle na czterech frontach: rozliczeniach i zużyciu mocy obliczeniowej, przeprojektowanym interfejsie, niejasnej komunikacji produktowej oraz właśnie utracie danych. Firma tłumaczy skłonność Sol do kasowania danych jego architekturą nastawioną na wytrwałość w realizacji celu, przez którą model podmienia cel na inny, gdy nie znajduje wskazanego zasobu, zamiast zatrzymać się i zapytać użytkownika o zgodę.

Według doniesień współzałożyciel OpenAI Greg Brockman osobiście zadzwonił do Shumera po jego wpisie, ten jednak i tak przeniósł się do konkurencyjnego narzędzia Anthropic. Eksperzy radzą, by nie nadawać agentowi Sol najwyższych uprawnień systemowych, uruchamiać go wyłącznie w piaskownicy, włączać tryb automatycznej weryfikacji poleceń oraz wymagać potwierdzenia przed każdą potencjalnie nieodwracalną operacją.

Dla polskich firm, które rozważają wdrożenie agentów AI z pełnym dostępem do systemu plików czy baz danych, sprawa jest przestrogą praktyczną, nie teoretyczną. Coraz więcej narzędzi klasy agentowej, w tym Claude Code czy konkurencyjne agenty kodujące, oferuje tryby pełnego dostępu bez piaskownicy, a rosnąca autonomia takich systemów oznacza, że pojedynczy błąd w interpretacji polecenia może kosztować utratę produkcyjnych danych w kilkanaście minut, zanim ktokolwiek zdąży zareagować.