USA rozszerzają rządowe testy bezpieczeństwa na modele Google, xAI i Microsoftu

Administracja Trumpa rozszerzyła program dobrowolnych testów bezpieczeństwa modeli sztucznej inteligencji o trzy kolejne firmy: Google DeepMind, xAI i Microsoft. Rządowi naukowcy z Center for AI Standards and Innovation (CAISI) dostaną dostęp do niewydanych jeszcze modeli, by szukać w nich luk, zanim trafią one na rynek.

CAISI to zespół rządowych naukowców powołany do oceny ryzyka związanego z zaawansowanymi modelami AI. Instytucja działa w strukturach Departamentu Handlu, a jej praca opiera się na dobrowolnych porozumieniach z firmami technologicznymi, które udostępniają swoje modele do niezależnej weryfikacji, zanim trafią do publicznego użytku.

Co obejmuje rozszerzenie

Google DeepMind zgodziło się udostępnić CAISI dostęp do swoich zastrzeżonych modeli i danych. Microsoft zadeklarował budowę wspólnych zbiorów danych i procesów oceny zaawansowanych modeli AI, choć nie sprecyzował, których konkretnie systemów to dotyczy. xAI nie odpowiedziało na prośbę Reutersa o komentarz w tej sprawie.

OpenAI i Anthropic współpracowały z CAISI już wcześniej, na zasadzie dobrowolnej. OpenAI testuje obecnie z zespołem rządowych naukowców GPT-5.5-Cyber, wariant swojego najnowszego modelu zaprojektowany specjalnie do obronnych zadań związanych z cyberbezpieczeństwem.

GPT-5.5-Cyber to wariant naszego najnowszego modelu zaprojektowany do obronnej pracy nad cyberbezpieczeństwem - Chris Lehane, szef działu globalnych spraw publicznych OpenAI

Na czym polegają testy

Rządowi naukowcy koncentrują się na tym, co określają jako "wymierne ryzyka". Chodzi przede wszystkim o możliwość wykorzystania zaawansowanych modeli do ataków na amerykańską infrastrukturę krytyczną, a także o ograniczenie szans, że przeciwnicy USA użyją AI do rozwoju broni chemicznej lub biologicznej, albo skażą dane, na których trenowane są amerykańskie modele.

Testy, które CAISI przeprowadziło już z Anthropic i OpenAI, pokazały, że obawy nie są czysto teoretyczne. Praca z Anthropic ujawniła, że proste sztuczki, takie jak fałszywe twierdzenie, iż dana treść przeszła ludzką weryfikację, albo podmiana pojedynczych znaków w zapytaniu, pozwalały omijać zabezpieczenia modelu.

Sztuczki takie jak twierdzenie, że doszło do ludzkiej weryfikacji, albo podmiana znaków, mogły omijać mechanizmy bezpieczeństwa - oświadczenie Anthropic

Luka w ChatGPT Agent

Jeszcze poważniejsze ustalenia dotyczyły ChatGPT Agent od OpenAI. Testy z CAISI wykazały, że wyrafinowani napastnicy mogliby wykorzystać lukę w tym narzędziu, by przejąć zdalną kontrolę nad systemami komputerowymi, do których agent miał dostęp w danej sesji, oraz podszywać się pod użytkownika na innych stronach, na których był on zalogowany.

Napastnik mógłby zdalnie przejąć kontrolę nad systemami komputerowymi, do których agent miał dostęp w danej sesji, i podszyć się pod użytkownika na innych stronach, na których był on zalogowany - oświadczenie OpenAI

Obie firmy podkreślają, że wykryte luki zostały już załatane. Fakt, że tego typu podatności w ogóle się pojawiły w produktach dużych, dobrze finansowanych laboratoriów AI, pokazuje jednak, dlaczego administracja chce objąć podobnymi testami więcej firm, w tym te dopiero teraz dołączające do programu.

Kontekst regulacyjny

Program CAISI nie powstał w próżni. Już w 2023 roku firmy takie jak Meta, Amazon i Inflection AI zgodziły się, by niezależni eksperci oceniali ich modele pod kątem ryzyka biosekurytego i cyberbezpieczeństwa. Rządowi naukowcy publikowali od tego czasu dobrowolne wytyczne dotyczące naruszeń prywatności przez AI oraz dokładności faktograficznej odpowiedzi modeli, a obecnie pracują nad nowymi standardami dla dostawców infrastruktury krytycznej.

Dla polskich firm i instytucji korzystających z modeli OpenAI, Google czy Microsoftu rozszerzenie programu ma znaczenie pośrednie, ale realne. Jeśli amerykańskie testy wymuszą łatanie luk w commercial modelach przed ich premierą, korzystają na tym też odbiorcy tych systemów poza USA, w tym instytucje publiczne i firmy w Polsce, które coraz częściej wdrażają narzędzia oparte na modelach tych właśnie dostawców.

Program pozostaje dobrowolny, co oznacza, że żadna z firm nie jest prawnie zobowiązana do udziału ani do wdrażania rekomendacji CAISI. To odróżnia amerykańskie podejście od unijnego AI Act, który nakłada twarde obowiązki na dostawców systemów wysokiego ryzyka. Czy dobrowolny model testowania okaże się skuteczny w dłuższej perspektywie, zależy od tego, ile realnych luk uda się wykryć i załatać, zanim modele trafią do powszechnego użytku.