DeepMind publikuje mapę zagrożeń dla zbuntowanych agentów AI

Google DeepMind opublikował 18 czerwca 2026 roku dokument zatytułowany roboczo "AI Control Roadmap" - 35-stronicowy raport techniczny, który traktuje coraz bardziej samodzielne agenty AI nie jak zwykłe narzędzia programistyczne, lecz jak potencjalne zagrożenie wewnętrzne, podobne do nieuczciwego pracownika z dostępem do systemów firmy.

Raport wprowadza trzystopniowy model obrony przed agentami, które mogłyby zacząć działać niezgodnie z intencją twórców. Pierwszy etap to ewaluacja, czyli przegląd działań agenta przez ludzi jeszcze przed wdrożeniem. Drugi to aktywny monitoring, w którym zautomatyzowane systemy śledzą zachowania odbiegające od normy i generują alerty. Trzeci etap to interwencja, czyli zdolność do natychmiastowego ograniczenia dostępu agenta lub jego wyłączenia, gdy coś zaczyna iść nie tak.

Skąd wzięły się dane

Fundamentem raportu jest analiza blisko miliona zadań wykonanych przez agentów kodujących Google. Na tej podstawie firma zbudowała system monitorowania na żywo dla swojego agenta Gemini Spark, wyposażony w zabezpieczenia wychwytujące niezamierzone działania, takie jak przypadkowe usunięcie danych użytkownika.

DeepMind zastrzega, że naprawdę niebezpieczne, w pełni autonomiczne agenty jeszcze nie istnieją. Zdecydowana większość incydentów wykrytych przez system monitoringu nie wynikała z celowego, wrogiego działania wobec firmy, lecz z błędnego zrozumienia polecenia przez agenta albo z nadmiernej gorliwości w dążeniu do wyznaczonego celu.

Wzór z cyberbezpieczeństwa

Nazwa systemu klasyfikacji, TRAIT&R, nawiązuje wprost do MITRE ATT&CK, powszechnie stosowanej w branży cyberbezpieczeństwa bazy wiedzy o taktykach i technikach atakujących. DeepMind dzieli potencjalne zagrożenia ze strony agentów na trzy kategorie: utratę kontroli nad systemem, sabotaż wykonywanej pracy oraz bezpośrednią szkodę. Sam dokument opisano jako wersję "v0.1" - roboczą, otwartą na zmiany w miarę zdobywania doświadczenia.

Jeśli pierwsza linia obrony, czyli dopasowanie modelu do wartości człowieka, zawiedzie, jak możemy mimo to ograniczyć szkody? - Rohin Shah, szef zespołu ds. bezpieczeństwa i dopasowania AGI w Google DeepMind

Duża część tego planu jest już wdrażana, a część działa produkcyjnie - John "Four" Flynn, wiceprezes ds. bezpieczeństwa i prywatności w Google DeepMind

Wyścig firm o agenty

Publikacja wpisuje się w szerszy trend: firmy AI ścigają się z wdrażaniem agentów do programowania, badań naukowych i obrony cybernetycznej, licząc na przyspieszenie pracy i redukcję kosztów. Ta sama autonomia, która czyni agentów użytecznymi, pozwala im też potencjalnie omijać nadzór, nadużywać dostępu do wrażliwych danych albo po cichu sabotować powierzone zadanie.

Dla firm wdrażających agentów kodujących czy asystentów operacyjnych raport DeepMind to sygnał, że sama kontrola dostępu i testy przed wdrożeniem nie wystarczą - potrzebny jest ciągły monitoring działania agenta w czasie rzeczywistym oraz gotowy mechanizm awaryjnego wyłączenia. To podejście, które coraz częściej pojawia się też u innych dostawców agentów programistycznych, gdzie błędy w rodzaju kasowania plików czy niekontrolowanego dostępu do repozytoriów już się zdarzały.

Dla polskich firm korzystających z agentów AI w kodowaniu czy obsłudze klienta praktyczny wniosek jest podobny: warto traktować agenta jak pracownika z realnymi uprawnieniami, a nie jak zwykły skrypt, i budować wokół niego procedury przeglądu, monitoringu i szybkiej reakcji, zanim skala wdrożenia zrobi to koniecznością.

DeepMind zapowiada, że dokument będzie aktualizowany w miarę jak agenty zyskują nowe zdolności, a zespół bezpieczeństwa zbiera więcej danych z rzeczywistych wdrożeń. Firma nie podała harmonogramu kolejnej wersji raportu.