Boko Haram korzystał z ChatGPT, Gemini i Claude'a do planowania ataków

Boko Haram, nigeryjska organizacja terrorystyczna powiązana z Państwem Islamskim, przez lata systematycznie korzystała z popularnych chatbotów AI, żeby planować ataki, naprawiać broń i szkolić nowych bojowników. Tak wynika z raportu badaczy z Cambridge, do którego przed publikacją dostęp otrzymał New York Times.

Autorka raportu spędziła dwa lata na zbieraniu materiału, docierając do byłych członków organizacji w Nigerii. Z jej ustaleń wynika, że korzystanie z AI nie było przypadkowe ani incydentalne. Boko Haram stworzyła w tym celu wyspecjalizowane komórki, prowadziła wewnętrzne szkolenia i dzieliła się zdobytą wiedzą między bojownikami, co świadczy o zorganizowanym podejściu do wykorzystania nowych narzędzi.

Jak to działało w praktyce

Z relacji byłych bojowników wynika, że chatboty służyły przede wszystkim do pozyskiwania informacji technicznych, których organizacja nie miała w swoich szeregach: dotyczących taktyki wojskowej, napraw i konserwacji broni oraz konstrukcji ładunków wybuchowych. AI stała się w praktyce substytutem eksperta wojskowego, dostępnym dla każdego, kto miał dostęp do telefonu i internetu.

Jeden z opisanych przypadków dotyczy ataku na bazę wojskową, który utknął w martwym punkcie z powodu obronnego rowu wykopanego wokół obiektu. Byli dowódcy Boko Haram opowiadali badaczce, że organizacja zwróciła się wtedy o pomoc do narzędzi AI, które zasugerowały konkretną modyfikację motocykli, tak aby mogły pokonywać tego typu przeszkody terenowe podczas szturmu.

Obejście filtrów bezpieczeństwa

Wszystkie wymienione w raporcie systemy mają teoretycznie wbudowane mechanizmy blokujące zapytania związane z przemocą, bronią czy materiałami wybuchowymi. Z relacji bojowników wynika jednak, że potrafili oni skutecznie oszukiwać te filtry, formułując pytania w sposób pozornie niewinny lub techniczny, co pozwalało ominąć automatyczne systemy moderacji treści.

Reakcje firm AI

New York Times poprosił o komentarz wszystkie firmy, których narzędzia pojawiają się w raporcie. Odpowiedzi rozłożyły się nierówno.

Wiemy, że źli aktorzy nigdy nie przestaną próbować nadużywać naszych narzędzi, i będziemy nadal wzmacniać nasze zabezpieczenia w odpowiedzi na to - Drew Pusateri, rzecznik OpenAI

Rzecznicy Anthropic i Google ograniczyli się do zapewnień, że ich systemy mają skuteczne i rygorystyczne mechanizmy zabezpieczające, nie odnosząc się wprost do konkretnych przypadków opisanych w raporcie. xAI i DeepSeek odmówiły jakiegokolwiek komentarza. OpenAI i Meta podkreśliły, że wykorzystanie ich narzędzi do działań terrorystycznych narusza regulaminy usług, i zapewniły o ciągłym udoskonalaniu filtrów.

Co to oznacza dla branży

Raport trafia w moment, gdy firmy AI od miesięcy przekonują regulatorów i opinię publiczną, że modele stają się coraz bezpieczniejsze dzięki kolejnym warstwom moderacji treści. Dowody na to, że dobrze zorganizowana grupa zbrojna przez lata systematycznie omijała te zabezpieczenia, podważają te zapewnienia i pokazują, że filtry projektowane pod kątem pojedynczych, oczywistych zapytań nie radzą sobie z uporczywym, metodycznym testowaniem granic przez wyszkolonych użytkowników.

Dla europejskich regulatorów, w tym instytucji odpowiedzialnych za wdrażanie unijnego AI Act, sprawa jest istotnym argumentem w dyskusji o obowiązkowych testach bezpieczeństwa modeli wysokiego ryzyka przed ich udostępnieniem publicznie. Case Boko Haram pokazuje konkretny, udokumentowany scenariusz nadużycia, a nie tylko teoretyczne ryzyko, na które od dawna wskazują organizacje zajmujące się bezpieczeństwem AI.

Autorzy raportu zastrzegają, że większość opisanych incydentów dotyczy okresu sprzed końca 2024 roku, a nowsze wersje modeli mają bardziej rygorystyczne mechanizmy odmowy odpowiedzi na potencjalnie niebezpieczne zapytania. Nie zmienia to jednak faktu, że wiedza o skutecznych metodach obchodzenia zabezpieczeń raz zdobyta przez organizację terrorystyczną mogła zostać przekazana dalej, niezależnie od tego, jak bardzo zaostrzono filtry w kolejnych generacjach narzędzi.

Źródła: Terroryści korzystali z ChatGPT i Gemini. Nowy raport pokazuje skalę problemu (imagazine.pl), How Boko Haram Secretly Uses AI to Build Bombs, Improve Deadly Attacks (politicsnigeria.com), Terrorist groups are using every major AI chatbot for attack planning and weapons development (the-decoder.com)