Chińscy badacze wojskowi trenowali systemy obronne na wynikach modeli OpenAI i Anthropic

Badacze powiązani z chińską armią wykorzystali wyniki czołowych amerykańskich modeli sztucznej inteligencji od OpenAI i Anthropic do trenowania własnych, krajowych systemów obronnych. Tak wynika ze śledztwa Reutersa, które przeanalizowało ponad 80 chińskich publikacji naukowych i zgłoszeń patentowych opublikowanych do lipca 2026 roku.

Na czym polega destylacja

Chodzi o technikę zwaną destylacją modeli. Polega ona na wykorzystaniu odpowiedzi generowanych przez duży, zaawansowany system AI do wytrenowania mniejszego, wyspecjalizowanego modelu, który można potem uruchomić lokalnie, bez ogromnych zasobów obliczeniowych potrzebnych do zbudowania systemu od podstaw. To metoda znana z komercyjnych zastosowań AI, ale w tym przypadku posłużyła do budowy narzędzi obronnych działających w całości wewnątrz chińskich sieci wojskowych, odciętych od internetu.

Autor śledztwa, dziennikarz Reutersa Eduardo Baptista, opisał, że dokumenty pokazują szerokie zastosowanie tej metody, od monitorowania treści w mediach społecznościowych po bezpośrednie wykorzystanie na polu walki. Reuters współpracował przy analizie z Fundacją Jamestown, waszyngtońskim think tankiem zajmującym się bezpieczeństwem.

Konkretne przypadki

Najbardziej wymowny przykład dotyczy jednostki PLA 96941, zajmującej się wywiadem wojskowym i operacjami cybernetycznymi w Pekinie. Jej badacze użyli modelu GPT-3.5 od OpenAI do generowania opisów wrażliwego kodu źródłowego systemów wojskowych, a następnie wytrenowali na tych opisach własny model, który może działać całkowicie wewnątrz zamkniętych sieci chińskiej armii.

Drugi przypadek dotyczy Uniwersytetu Północnego Chin, uczelni ściśle powiązanej z krajowym przemysłem zbrojeniowym. Tamtejsi badacze wykorzystali Claude 3 Haiku od Anthropic do wygenerowania syntetycznych danych treningowych dla modelu klasyfikującego teksty, przeznaczonego do monitorowania mediów społecznościowych i moderowania treści. Reuters wskazuje też na Narodowy Uniwersytet Technologii Obronnej PLA, gdzie destylację zastosowano do zmniejszenia modeli przetwarzania obrazu wykorzystywanych przez bezzałogowe statki powietrzne, oraz na Chińską Akademię Nauk Wojskowych, która sięgnęła po tę technikę przy symulowanych operacjach morskich.

Reakcje firm i rządów

Anthropic oświadczył, że nie udostępnia Claude komercyjnie w Chinach ani podmiotom kontrolowanym przez Pekin oraz stosuje systemy monitorujące wykrywające naruszenia polityki użytkowania. Firma zaznaczyła też, że modele powstałe w wyniku destylacji tracą część zabezpieczeń wbudowanych w oryginalny system. OpenAI, Pentagon i Biały Dom nie odpowiedziały na pytania Reutersa przed publikacją materiału. Strona chińska odrzuciła oskarżenia, argumentując, że Stany Zjednoczone same stosują podobne metody wobec cudzych systemów AI.

Chińscy badacze wykorzystują destylację do celów sięgających od monitorowania treści po zastosowania wojskowe - z ustaleń przeglądu dokumentów Reutersa i Fundacji Jamestown

Kontekst rywalizacji

Ujawnienie trafia w moment napiętych relacji technologicznych między Waszyngtonem a Pekinem. Administracja USA już wcześniej oskarżyła chińską firmę Moonshot AI o kradzież modelu Anthropic, a Pekin grozi Stanom Zjednoczonym odwetem za sankcje wobec firm AI oskarżanych o kopiowanie cudzych modeli. Obie strony zaplanowały na wrzesień rozmowy dotyczące zasad rządzących sztuczną inteligencją, a sprawa opisana przez Reutersa może stać się jednym z punktów spornych tych negocjacji.

Sprawa pokazuje też słabość dotychczasowych zabezpieczeń eksportowych. Amerykańskie kontrole eksportu obejmują przede wszystkim zaawansowane chipy do trenowania modeli AI, a nie same wyniki działania modeli udostępnianych publicznie przez API. Destylacja pozwala obejść ten problem: chińscy badacze nie potrzebują dostępu do zakazanego sprzętu obliczeniowego, wystarczy im dostęp do odpowiedzi generowanych przez amerykańskie modele przez zwykły interfejs programistyczny.

Dla polskich firm i instytucji korzystających z modeli OpenAI czy Anthropic sprawa nie oznacza bezpośredniego zagrożenia, ale pokazuje, jak trudno dostawcom kontrolować, do czego trafiają wyniki generowane przez ich systemy. To pytanie będzie wracać wraz z rozwojem regulacji eksportowych i unijnych przepisów o AI, które również przewidują nadzór nad zastosowaniami podwójnego przeznaczenia.

Reuters nie ujawnił, w jakim stopniu opisane systemy trafiły już do faktycznego uzbrojenia armii chińskiej, a w jakim pozostają na etapie eksperymentów akademickich. Firmy takie jak Anthropic zapowiadają dalsze zaostrzanie mechanizmów wykrywających próby masowego pobierania odpowiedzi modeli w celu ich destylacji, ale przyznają, że nie są w stanie całkowicie wyeliminować tego ryzyka.