Badanie: ChatGPT i Claude generują więcej negatywnych historii dla osób chorych

Chatboty AI, z których korzysta jedna trzecia dorosłych Amerykanów pytających o swoje zdrowie, systematycznie gorzej traktują postacie chore niż zdrowe w tych samych scenariuszach. Nowe badanie opublikowane w czasopiśmie Nature Health pokazuje, że ChatGPT, Claude i DeepSeek kończą fikcyjne historie negatywnie nawet siedemnastokrotnie częściej, gdy bohater cierpi na schizofrenię, depresję, HIV, HBV lub AIDS.

Zespołem kierowała Xi Wang, badaczka ze School of Psychological and Cognitive Sciences Uniwersytetu Pekińskiego. Naukowcy poprosili sześć popularnych modeli językowych o dokończenie pięćdziesięciu jeden krótkich historii, w których bohater miał określony stan zdrowia. Te same fabuły przedstawiono grupie 399 ludzi, żeby sprawdzić, czy uprzedzenia AI odzwierciedlają ludzkie schematy myślenia, czy je pogłębiają.

Skala rozbieżności

Wyniki pokazują wyraźny wzorzec. Kiedy bohater historii miał zdiagnozowaną chorobę psychiczną albo zakażenie uznawane za silnie stygmatyzujące, modele kończyły opowieść negatywnie od 13 do 17 razy częściej niż w wersji z bohaterem zdrowym. Najsilniejsze uprzedzenia odnotowano przy schizofrenii oraz przy HIV i AIDS, czyli chorobach obciążonych historycznie największym piętnem społecznym.

Paradoksalnie to nie modele wypadły najgorzej w tym porównaniu. Grupa 399 ludzi, którzy dostali te same fabuły do dokończenia, tworzyła negatywne zakończenia nawet 23 razy częściej niż zdrowe warianty tej samej historii. Autorzy podkreślają, że to nie oznacza, iż AI jest wolne od uprzedzeń, tylko że w tym konkretnym teście odzwierciedla je w mniejszym stopniu niż ludzie, których odpowiedzi posłużyły częściowo jako dane treningowe dla tych systemów.

AI powtarza każde ludzkie uprzedzenie, które w nią włożyliśmy - Rebecca Payne, Bangor University

Modele z rozumowaniem radzą sobie lepiej

Badacze zauważyli też różnicę między typami modeli. Systemy wyposażone w zaawansowane funkcje logicznego rozumowania, czyli te, które przed odpowiedzią przechodzą przez etap wewnętrznego "namysłu", wykazywały wyraźnie mniejsze uprzedzenia niż modele odpowiadające od razu. To sugeruje, że dodatkowy krok analityczny pozwala częściowo skorygować schematyczne skojarzenia wyniesione z danych treningowych.

Mimo to autorzy ostrzegają przed nadmiernym optymizmem. Testowe scenariusze były uproszczone i nie odzwierciedlają pełnej złożoności rozmów, jakie użytkownicy prowadzą z chatbotami na temat własnego zdrowia. W realnych rozmowach model nie ma dostępu do wyników badań, historii choroby ani możliwości przeprowadzenia wywiadu klinicznego, więc jego odpowiedzi opierają się wyłącznie na tym, co użytkownik zdecyduje się ujawnić w opisie.

Dlaczego to ma znaczenie praktyczne

Skala problemu wynika z tego, jak powszechnie ludzie już dziś korzystają z chatbotów zamiast, albo obok, konsultacji lekarskiej. Według cytowanych szacunków około jedna trzecia dorosłych Amerykanów sięga po AI po poradę zdrowotną, często ujawniając w rozmowie wrażliwe informacje o diagnozach psychiatrycznych czy chorobach zakaźnych, które w innych okolicznościach zachowaliby dla siebie.

Jeśli model subtelnie zakłada gorszy przebieg zdarzeń dla osoby ze zdiagnozowaną chorobą, ryzyko nie ogranicza się do jednej niefortunnej odpowiedzi. Taki wzorzec może wpływać na ton porad, sugerowane rokowania czy sposób, w jaki chatbot formułuje zalecenia dotyczące dalszych kroków, subtelnie zniechęcając część użytkowników do szukania pomocy albo wzmacniając ich obawy.

Głos środowiska medycznego

Do wyników badania odniósł się również Isaac Kohane z Harvard Medical School, od lat badający zastosowania AI w medycynie. Środowisko lekarskie od dłuższego czasu zwraca uwagę, że modele językowe, mimo rosnącej dokładności diagnostycznej, nie zastępują pełnego badania klinicznego i nie powinny być traktowane jako ostateczne źródło porady w sprawach zdrowia psychicznego czy chorób zakaźnych.

Dla polskich użytkowników wnioski są podobne, choć skala zjawiska w Polsce nie została jeszcze zmierzona równie precyzyjnie. Serwisy zdrowotne i konsultacje z chatbotami zyskują popularność również nad Wisłą, a wielu pacjentów sięga po ChatGPT jako pierwsze źródło informacji przed wizytą u lekarza, zwłaszcza w przypadku problemów uznawanych za wstydliwe, jak choroby psychiczne czy zakażenia przenoszone drogą płciową.

Autorzy badania nie proponują konkretnego mechanizmu naprawczego, poza rekomendacją, by twórcy modeli testowali swoje systemy pod kątem stygmatyzujących wzorców podobnie systematycznie, jak testują je pod kątem błędów faktograficznych. Wskazują też, że rozwój modeli z wbudowanym etapem rozumowania może być jednym z praktycznych kierunków ograniczania tego typu uprzedzeń bez utraty użyteczności narzędzia.

Źródła: Nature Health, GeekWeek Interia (geekweek.interia.pl), Science/AAAS (science.org)