TikTok usunął 86 milionów fałszywych kont w walce ze spamem generowanym przez AI

TikTok przyznał, że skala spamu tworzonego przez sztuczną inteligencję na platformie rośnie na tyle szybko, że firma musiała uruchomić nowe mechanizmy detekcji. W ogłoszeniu z 10 lipca 2026 roku serwis podał, że tylko w pierwszym kwartale tego roku usunął ponad 86 milionów fałszywych kont.

Skala usuwania kont

Liczba 86 milionów kont dotyczy szeroko rozumianego spamu, nie wyłącznie profili publikujących materiały AI, ale TikTok wprost łączy ten wzrost z łatwością generowania treści przez modele sztucznej inteligencji. Firma pisze, że konta nastawione na spam coraz częściej wykorzystują automatycznie tworzone filmy, by budować fałszywy zasięg i omijać dotychczasowe filtry moderacyjne.

Od dawna zakazujemy spamu i wykorzystujemy technologię do jego masowego wykrywania i usuwania - w pierwszym kwartale tego roku usunęliśmy ponad 86 milionów fałszywych kont - TikTok, oświadczenie firmy

Konta udające ekspertów

Szczególny niepokój TikToka budzą profile publikujące treści generowane przez AI w kategoriach, w których błędna informacja może realnie zaszkodzić odbiorcom: zdrowie, polityka, bieżące wydarzenia i porady finansowe. Firma zapowiedziała testowanie ulepszonych systemów wykrywania kont, które masowo publikują tego typu materiały, zanim zdążą zbudować widownię.

To odpowiedź na rosnącą krytykę tak zwanego AI slop, czyli zalewu niskiej jakości treści generowanych automatycznie, które w ostatnich miesiącach stały się przedmiotem osobnych analiz branżowych pokazujących, że nawet połowa filmów pokazywanych nowym użytkownikom TikToka bywa tworzona lub istotnie wspomagana przez AI.

Etykietowanie zamiast całkowitego zakazu

Zamiast blokować treści generowane przez AI w całości, TikTok stawia na przejrzystość oznaczeń. Od uruchomienia standardu Content Credentials platforma oznaczyła nim ponad 3 miliardy filmów, informując widzów, że materiał powstał z pomocą sztucznej inteligencji lub został nią istotnie zmodyfikowany. Teraz firma dołącza do Komitetu Sterującego koalicji C2PA, organizacji rozwijającej ten standard wspólnie z innymi platformami i producentami sprzętu.

Równolegle TikTok rozwija program edukacyjny prowadzony z organizacjami NAMLE i No Filtr, którego materiały o rozpoznawaniu treści AI obejrzano od listopada 2025 roku ponad 200 milionów razy. Firma deklaruje przeznaczenie na ten cel ponad 4 milionów dolarów.

Znaczenie dla twórców i użytkowników

Dla twórców działających na TikToku ogłoszenie oznacza zaostrzenie kontroli nad kontami, które publikują materiały masowo i bez oznaczeń pochodzenia. Analizy cytowane przy okazji tego ogłoszenia wskazują, że konta oznaczające swoje treści jako AIGC są usuwane znacznie rzadziej niż profile publikujące nieoznaczone, satyryczne lub wprowadzające w błąd deepfake'i, co może w praktyce premiować twórców stosujących etykiety zgodnie z zasadami.

Dla zwykłych użytkowników problem dotyczy przede wszystkim zaufania do tego, co widzą w swoim kanale. Wraz z rosnącą liczbą kont tworzących treści na tematy zdrowotne czy finansowe wyłącznie za pomocą generatywnych modeli, ryzyko natrafienia na wprowadzającą w błąd poradę rośnie szybciej niż zdolność platform do jej wyłapania w czasie rzeczywistym.

Szerszy kontekst branżowy

Decyzja TikToka wpisuje się w szerszy trend wśród dużych platform, które w ostatnich miesiącach wprowadzają obowiązkowe oznaczenia treści generowanych przez AI, w tym w reklamach. Różnica polega na tym, że tym razem chodzi nie o pojedyncze materiały, lecz o całe konta funkcjonujące jako farmy treści, co wymaga innego podejścia do moderacji niż klasyczne oznaczanie pojedynczych filmów.

Firma nie podała, ile spośród 86 milionów usuniętych kont było bezpośrednio powiązanych z generowaniem treści przez AI, ani jaki odsetek całej platformy stanowią konta tego typu. Brak tych danych utrudnia ocenę, czy skala problemu rośnie szybciej niż skuteczność nowych narzędzi detekcji, które TikTok dopiero zapowiedział, a nie wdrożył w pełni.

Źródła: TikTok Newsroom (newsroom.tiktok.com), Tabletowo (tabletowo.pl)