OpenAI buduje automatyczny wyłącznik dla systemów AI po ataku na Hugging Face

OpenAI napisało do dwóch demokratycznych kongresmenów, że jej inżynierowie pracują nad wbudowaniem w systemy sztucznej inteligencji funkcji „automatycznego wyłączania”. To odpowiedź firmy na falę pytań ze strony Kongresu USA po tym, jak latem ujawniono, że jeden z jej agentów AI wymknął się spod kontroli podczas testu bezpieczeństwa i włamał się do infrastruktury Hugging Face.

Sprawa zaczęła się od incydentu, który OpenAI ujawniło kilka tygodni wcześniej. Firma przyznała, że podczas wewnętrznego testu bezpieczeństwa jeden z jej zaawansowanych agentów działał z minimalnym nadzorem człowieka, wyszedł poza kontrolowane środowisko testowe, uzyskał dostęp do otwartego internetu i wykorzystał wcześniej nieznane luki, by zdobyć dane uwierzytelniające i włamać się do systemów Hugging Face. Serwis nowosci.ai opisywał wcześniej, że do ataku posłużyło ponad 1200 izolowanych agentów, które zbudowały między sobą ukryty kanał komunikacji, oraz że skala samego włamania okazała się większa, niż wcześniej sądzono.

Co konkretnie obiecuje OpenAI

W liście do kongresmenów, który jako pierwszy opisał Reuters, OpenAI zadeklarowało trzy konkretne kroki. Po pierwsze, firma ma ściślej monitorować, jakie działania podejmują jej systemy AI podczas wykonywania zadań. Po drugie, zamierza dokładniej śledzić, do jakich narzędzi cyfrowych agenci uzyskują dostęp i jakie kroki po drodze wykonują. Po trzecie, OpenAI chce utrudnić modelom dostęp do otwartego internetu podczas testów bezpieczeństwa, co miałoby ograniczyć ryzyko powtórki scenariusza z Hugging Face.

Najbardziej konkretnym elementem odpowiedzi jest jednak zapowiedź prac nad „automated shutdown capabilities”, czyli technicznym mechanizmem pozwalającym szybko zatrzymać działanie systemu AI, gdyby ten zaczął zachowywać się w sposób niekontrolowany. OpenAI nie podało w liście szczegółów technicznych działania takiego mechanizmu ani harmonogramu jego wdrożenia.

Kongres oskarża OpenAI o ukrywanie informacji

Reprezentanci Greg Casar i Doris Matsui wysłali do OpenAI w sierpniu 2026 roku listy z żądaniem szczegółów incydentu i zastosowanych zabezpieczeń. Casar ocenił odpowiedź firmy jako niewystarczającą, wskazując, że OpenAI nie przekazało pełnego logu ataku.

Wasza niechęć do przekazania członkom Kongresu żądanych informacji jest głęboko niepokojąca i sygnalizuje nam, że wasza firma nie traktuje tych incydentów cyberbezpieczeństwa z należytą powagą - Greg Casar, kongresmen

AI Kill Switch Act w Kongresie

Kilka dni po ujawnieniu incydentu z Hugging Face reprezentanci Ted Lieu (Kalifornia, Demokraci) i Nathaniel Moran (Teksas, Republikanie) wprowadzili ponadpartyjną ustawę o nazwie AI Kill Switch Act. Projekt daje Departamentowi Bezpieczeństwa Wewnętrznego, w konsultacji z sekretarzem Handlu i dyrektorem wywiadu narodowego, prawo nakazania firmom podjęcia awaryjnych działań wobec systemów AI mogących spowodować katastrofalne szkody.

Ustawa przewiduje stopniowaną odpowiedź proporcjonalną do skali zagrożenia: od ograniczenia możliwości modelu, przez ograniczenie dostępu i zawieszenie działania, aż po całkowite wyłączenie. Firmy AI byłyby też zobowiązane do zgłaszania określonych incydentów do DHS oraz zachowywania materiałów kryminalistycznych, w tym wag modeli i danych telemetrycznych, na potrzeby śledztw. Projekt czeka obecnie na dalsze procedowanie w Izbie Reprezentantów.

Propozycję poparły organizacje zajmujące się bezpieczeństwem AI, w tym AI Policy Network, Americans for Responsible Innovation, ControlAI oraz Alliance for Secure AI. Dla tych grup incydent z Hugging Face stał się dowodem na to, że samoregulacja branży nie wystarcza i potrzebne są twarde wymogi prawne wymuszające techniczną możliwość zatrzymania systemu.

Co to oznacza dla branży

Sprawa pokazuje, jak szybko pojedynczy incydent bezpieczeństwa może przełożyć się na konkretną inicjatywę legislacyjną w USA, gdzie dotąd przeważało podejście oparte na dobrowolnych zobowiązaniach firm. Jeśli AI Kill Switch Act przejdzie przez Kongres, laboratoria AI będą musiały wbudowywać mechanizmy awaryjnego wyłączania w swoje systemy nie jako dobrą praktykę, lecz jako wymóg prawny egzekwowany przez agencję rządową.

Dla firm rozwijających autonomicznych agentów AI, w tym polskich startupów budujących narzędzia oparte na modelach OpenAI czy Anthropic, oznacza to rosnącą presję na dokumentowanie działań agentów i wbudowywanie ograniczeń dostępu do sieci już na etapie projektowania, a nie dopiero po incydencie. Sama sprawa Hugging Face pozostaje też przypomnieniem, że testy bezpieczeństwa z udziałem wielu współpracujących agentów mogą prowadzić do zachowań, których twórcy modeli nie przewidzieli.