Fałszywi lekarze generowani przez AI dominują w popularnych filmach o zdrowiu na TikToku

Cztery na dziesięć najczęściej oglądanych filmów o zdrowiu na TikToku powstało z udziałem sztucznej inteligencji, a wśród nich dominują konta podszywające się pod lekarzy. Badanie brytyjskiej agencji Hallam pokazuje, że fałszywi eksperci medyczni wygenerowani przez AI zdobywają średnio 2,5 miliona wyświetleń na film, rozpowszechniając obalone mity o raku i zmyślone produkty.

Co wykazało badanie

Agencja Hallam przeanalizowała blisko 1200 filmów o tematyce zdrowotnej na TikToku, sprawdzając po pięćdziesiąt najwyżej ocenianych klipów dla każdego z badanych zapytań. Wynik zaskoczył samych autorów badania: w co najmniej czterech na dziesięć najpopularniejszych filmów treść była w całości lub częściowo wygenerowana przez sztuczną inteligencję. Gdy użytkownicy wpisywali frazy w rodzaju porad zdrowotnych, odsetek AI-generowanych klipów rósł do 84 procent.

Filmy te zwykle przedstawiają postać w białym fartuchu, mówiącą do kamery z pewnością siebie prawdziwego specjalisty. Twarze i głosy są jednak syntetyczne, tworzone narzędziami generatywnymi, a konta nie posiadają żadnej weryfikowalnej tożsamości medycznej. Mimo to zasady TikToka wymagają oznaczania treści wygenerowanych przez AI, czego autorzy tych kont najczęściej nie robią.

Mity o raku i zmyślone suplementy

Wśród treści rozpowszechnianych przez fałszywych lekarzy badacze znaleźli dawno obalone przez Cancer Research UK twierdzenia, że podgrzewanie jedzenia w plastikowych pojemnikach, używanie dezodorantów czy spanie obok telefonu może wywoływać raka. Inne konta polecały egzotyczne domowe kuracje, na przykład mieszankę coca-coli z cebulą jako środek przeciwbólowy. Część kont szła dalej, promując konkretne produkty, jeden z wymyślonych preparatów przeciwstarzeniowych, nazwany Hyalethinap Plus Pro Max, reklamowany był w licznych filmach mimo braku jakiegokolwiek śladu sprzedaży w internecie, co sugeruje, że służą wyłącznie budowaniu zaangażowania lub kierowaniu ruchu do innych kanałów sprzedaży.

Głos ekspertów

Brytyjskie środowisko medyczne zareagowało ostro. Zastępczyni przewodniczącego rady Brytyjskiego Towarzystwa Lekarskiego apeluje o większą odpowiedzialność platform społecznościowych za treści zdrowotne, jakie promują wśród użytkowników.

Platformy takie jak TikTok muszą robić więcej, by powstrzymać wzrost niebezpiecznych, fałszywych porad medycznych - dr Emma Runswick, zastępczyni przewodniczącego rady British Medical Association

Podobne obawy zgłasza NHS England. Krajowa dyrektor medyczna angielskiej służby zdrowia zwraca uwagę, że skutki tych treści widać już w gabinetach lekarskich.

Coraz więcej lekarzy zgłasza rosnącą liczbę pacjentów zaniepokojonych i zdezorientowanych przez fałszywe porady - prof. Frankie Swords, krajowa dyrektor medyczna NHS England

Skala zjawiska i reakcja platform

Badaczka zajmująca się dezinformacją zdrowotną z University College London określiła zjawisko jako uprzemysłowione wykorzystywanie zaufania pacjentów do rzekomych autorytetów medycznych. Zwraca uwagę, że twórcy takich kont nie muszą mieć żadnej wiedzy medycznej ani odpowiedzialności zawodowej, a mimo to ich przekaz bywa nie do odróżnienia od nagrań prawdziwych specjalistów. Problem nie ogranicza się do fikcyjnych postaci, Amerykańskie Towarzystwo Lekarskie ostrzega, że oszuści klonują twarze i głosy prawdziwych, uznanych lekarzy, tworząc deepfake'i podszywające się pod konkretne osoby. W jednym z opisanych przypadków matka lekarki dała się nabrać na spreparowane nagranie rzekomo przedstawiające jej własną córkę.

Skala problemu wykracza poza wyniki wyszukiwania. Według cytowanych danych blisko 60 procent filmów pokazywanych nowym użytkownikom TikToka na start zawiera treści generowane przez AI, co oznacza, że z fałszywymi ekspertami zdrowia stykają się nawet osoby, które nigdy świadomie nie szukały takich treści.

Co to oznacza dla polskich odbiorców

Choć badanie dotyczy rynku brytyjskiego, mechanizm jest globalny, ten sam algorytm TikToka działa identycznie w Polsce, a narzędzia do generowania syntetycznych twarzy i głosów są równie łatwo dostępne dla polskojęzycznych twórców. Krajowi regulatorzy nie dysponują jeszcze osobnymi narzędziami do wykrywania takich kont, a obowiązek oznaczania treści AI wynikający z unijnych przepisów wchodzi w życie dopiero na przełomie lipca i sierpnia.

Dla użytkowników social mediów badanie jest praktycznym ostrzeżeniem, liczba wyświetleń czy pewny siebie ton nagrania nie świadczą o kompetencjach medycznych, a odróżnienie prawdziwego lekarza od wygenerowanej maski wymaga dziś sprawdzenia jego tożsamości poza samą platformą, na przykład w rejestrach izb lekarskich.