Po zamachu w Krakowie krążyło fałszywe nagranie sprawcy. Wygenerowała je sztuczna inteligencja

Po ataku na Rynku Głównym w Krakowie 7 listopada w sieci rozeszło się krótkie nagranie, na którym młody mężczyzna w samochodzie śmieje się i zapowiada, że „zrobi coś złego”. Według serwisów fact-checkingowych cytowanych przez „Rzeczpospolitą” to materiał wygenerowany przez sztuczną inteligencję, a nie film ze sprawcą.

Co było na nagraniu

Klip pokazuje młodego mężczyznę w samochodzie. Patrząc w kamerę, mówi: „Dzisiaj będę palił lufkę”, po czym wybucha śmiechem i dodaje: „I zrobię coś złego”. Wpisy w mediach społecznościowych przedstawiały go jako film ze sprawcą sprzed zamachu.

Materiał krążył w serwisach X i Facebook. Jedna z kopii miała 2 miliony wyświetleń, a kolejna pół miliona. Według „Rzeczpospolitej” wideo prawdopodobnie powstało na podstawie zdjęcia pobranego z profilu na Facebooku przypisywanego sprawcy, który nie jest już dostępny.

Jak wykryto fałszerstwo

Demagog podał, że analiza narzędziem SynthID wykazała, iż nagranie stworzono modelem AI firmy Google. Pochodzenie potwierdziła też analiza w narzędziu Hive. Kontakt24, jak relacjonuje rp.pl, podał wynik 99,9 proc. szans na użycie AI z Hive Detect, a Sightengine dla wybranych klatek wskazał 99 proc.

Analiza przeprowadzona za pomocą narzędzia SynthID wykazała, że materiał został stworzony za pomocą modelu AI firmy Google - Demagog, serwis fact-checkingowy

Są to oceny narzędzi detekcyjnych i fact-checkerów, a nie rozstrzygnięcie prokuratury. Wskaźniki procentowe to szacunki klasyfikatorów.

Reakcja rządu

Według relacji cyberdefence24.pl Ośrodek Przeciwdziałania Dezinformacji działa w trybie kryzysowym, a zidentyfikowane przekazy są zgłaszane platformom. Wicepremier Krzysztof Gawkowski ostrzegał, że wyostrzone przez AI obrazy bardzo często wprowadzają w błąd. Rzecznik rządu Adam Szłapka przestrzegał przed bardzo wiarygodnie wyglądającymi materiałami z AI.

Fałszywe doniesienia dotyczyły m.in. drugiego sprawcy, śmierci policjanta, nieobecności policji oraz tego, że sprawca był żołnierzem albo Ukraińcem. Minister Siemoniak powiedział, że agencje wojskowe badają dezinformację pochodzącą spoza Polski. Cyberdefence24.pl zaznacza, że brak dowodów, by była to jedna skoordynowana operacja.

Co z tego wynika

Śledczy z CBZC sprawdzają, czy przed zamachem sprawca zostawił w internecie sygnały ostrzegawcze. Z relacji cyberdefence24.pl wynika, że nie potwierdzono, by przed atakiem służby otrzymały ostrzeżenia.

Przypadek pokazuje, jak szybko po tragedii pojawia się syntetyczny materiał pasujący do oczekiwanej narracji. Wideo, które według „Rzeczpospolitej” prawdopodobnie powstało ze zdjęcia z profilu społecznościowego, miało w jednej z kopii 2 miliony wyświetleń. Przy weryfikacji pomaga sprawdzenie pochodzenia nagrania oraz narzędzia analityczne, takie jak SynthID czy Hive, z których korzystali fact-checkerzy.