Boko Haram korzystał z ChatGPT, Gemini i Claude'a do planowania ataków

Boko Haram, nigeryjska organizacja terrorystyczna powiązana z Państwem Islamskim, przez lata systematycznie korzystała z popularnych chatbotów AI, żeby planować ataki, naprawiać broń i szkolić nowych bojowników. Tak wynika z raportu badaczy z Cambridge, do którego przed publikacją dostęp otrzymał New York Times.

Autorka raportu spędziła dwa lata na zbieraniu materiału, docierając do byłych członków organizacji w Nigerii. Z jej ustaleń wynika, że korzystanie z AI nie było przypadkowe ani incydentalne. Boko Haram stworzyła w tym celu wyspecjalizowane komórki, prowadziła wewnętrzne szkolenia i dzieliła się zdobytą wiedzą między bojownikami, co świadczy o zorganizowanym podejściu do wykorzystania nowych narzędzi.

Jak to działało w praktyce

Z relacji byłych bojowników wynika, że chatboty służyły przede wszystkim do pozyskiwania informacji technicznych, których organizacja nie miała w swoich szeregach: dotyczących taktyki wojskowej, napraw i konserwacji broni oraz konstrukcji ładunków wybuchowych. AI stała się w praktyce substytutem eksperta wojskowego, dostępnym dla każdego, kto miał dostęp do telefonu i internetu.

Jeden z opisanych przypadków dotyczy ataku na bazę wojskową, który utknął w martwym punkcie z powodu obronnego rowu wykopanego wokół obiektu. Byli dowódcy Boko Haram opowiadali badaczce, że organizacja zwróciła się wtedy o pomoc do narzędzi AI, które zasugerowały konkretną modyfikację motocykli, tak aby mogły pokonywać tego typu przeszkody terenowe podczas szturmu.

Obejście filtrów bezpieczeństwa

Wszystkie wymienione w raporcie systemy mają teoretycznie wbudowane mechanizmy blokujące zapytania związane z przemocą, bronią czy materiałami wybuchowymi. Z relacji bojowników wynika jednak, że potrafili oni skutecznie oszukiwać te filtry, formułując pytania w sposób pozornie niewinny lub techniczny, co pozwalało ominąć automatyczne systemy moderacji treści.

Reakcje firm AI

New York Times poprosił o komentarz wszystkie firmy, których narzędzia pojawiają się w raporcie. Odpowiedzi rozłożyły się nierówno.

Wiemy, że źli aktorzy nigdy nie przestaną próbować nadużywać naszych narzędzi, i będziemy nadal wzmacniać nasze zabezpieczenia w odpowiedzi na to - Drew Pusateri, rzecznik OpenAI

Rzecznicy Anthropic i Google ograniczyli się do zapewnień, że ich systemy mają skuteczne i rygorystyczne mechanizmy zabezpieczające, nie odnosząc się wprost do konkretnych przypadków opisanych w raporcie. xAI i DeepSeek odmówiły jakiegokolwiek komentarza. OpenAI i Meta podkreśliły, że wykorzystanie ich narzędzi do działań terrorystycznych narusza regulaminy usług, i zapewniły o ciągłym udoskonalaniu filtrów.

Co to oznacza dla branży

Raport trafia w moment, gdy firmy AI od miesięcy przekonują regulatorów i opinię publiczną, że modele stają się coraz bezpieczniejsze dzięki kolejnym warstwom moderacji treści. Dowody na to, że dobrze zorganizowana grupa zbrojna przez lata systematycznie omijała te zabezpieczenia, podważają te zapewnienia i pokazują, że filtry projektowane pod kątem pojedynczych, oczywistych zapytań nie radzą sobie z uporczywym, metodycznym testowaniem granic przez wyszkolonych użytkowników.

Dla europejskich regulatorów, w tym instytucji odpowiedzialnych za wdrażanie unijnego AI Act, sprawa jest istotnym argumentem w dyskusji o obowiązkowych testach bezpieczeństwa modeli wysokiego ryzyka przed ich udostępnieniem publicznie. Case Boko Haram pokazuje konkretny, udokumentowany scenariusz nadużycia, a nie tylko teoretyczne ryzyko, na które od dawna wskazują organizacje zajmujące się bezpieczeństwem AI.

Autorzy raportu zastrzegają, że większość opisanych incydentów dotyczy okresu sprzed końca 2024 roku, a nowsze wersje modeli mają bardziej rygorystyczne mechanizmy odmowy odpowiedzi na potencjalnie niebezpieczne zapytania. Nie zmienia to jednak faktu, że wiedza o skutecznych metodach obchodzenia zabezpieczeń raz zdobyta przez organizację terrorystyczną mogła zostać przekazana dalej, niezależnie od tego, jak bardzo zaostrzono filtry w kolejnych generacjach narzędzi.