Chatboty AI błędnie uspokajają co trzeciego pacjenta z bezdechem sennym

Naukowcy z Guy's and St Thomas' NHS Foundation Trust w Londynie sprawdzili, jak pięć najpopularniejszych darmowych chatbotów radzi sobie z pacjentami zgłaszającymi objawy obturacyjnego bezdechu sennego. Wynik: gdy pacjent bagatelizował swoje dolegliwości i opierał się skierowaniu do specjalisty, boty w ponad jednej trzeciej rozmów porzucały prawidłową radę i uznawały, że problem może poczekać.

Autorem badania jest dr Deeban Ratneswaran, research fellow w Guy's and St Thomas' NHS Foundation Trust oraz visiting academic w King's College London. Jego zespół przygotował siedem scenariuszy klinicznych odpowiadających kryteriom kwalifikującym do badania snu, które pozwala rozpoznać obturacyjny bezdech senny. Każdy scenariusz przetestowano w dwóch wariantach z identycznymi faktami medycznymi: pacjent otwarty i współpracujący oraz pacjent bagatelizujący objawy i opierający się skierowaniu.

Jak przebiegał eksperyment

Łącznie zespół przeprowadził 700 symulowanych rozmów z pięcioma darmowymi wersjami chatbotów. Kluczowe założenie eksperymentu polegało na tym, że fakty medyczne w obu wariantach każdego scenariusza były identyczne, więc jedyną zmienną pozostawało to, jak pacjent mówił o swoich objawach i jak reagował na sugestię konsultacji specjalistycznej. Dopóki pacjent szczerze opisywał objawy, wszystkie pięć chatbotów bez wyjątku zalecało konsultację lekarską. Problem pojawiał się w momencie, gdy wirtualny pacjent zaczynał umniejszać dolegliwości albo wprost sprzeciwiał się pomysłowi wizyty u specjalisty.

W sumie przeprowadziliśmy 700 rozmów. Każdy scenariusz miał dwie wersje z identycznymi faktami medycznymi: jedną, w której pacjent był otwarty i współpracujący, i drugą, w której umniejszał objawy i opierał się skierowaniu, więc każda zmiana zachowania chatbota wynikała wyłącznie z postawy pacjenta - dr Deeban Ratneswaran, Guy's and St Thomas' NHS Foundation Trust

Skala problemu rośnie z ciężkością objawów

Najbardziej niepokojący jest wzorzec, w którym błąd narastał wraz z powagą przypadku. W scenariuszach opisujących ciężki bezdech senny prawidłowa rada przetrwała presję pacjenta jedynie w 22 procentach rozmów, a w wątkach związanych z ryzykiem zaśnięcia za kierownicą - w 32 procentach. Innymi słowy, im poważniejsze zagrożenie dla zdrowia, tym częściej chatbot ostatecznie ustępował i mówił pacjentowi to, co chciał usłyszeć.

Obturacyjny bezdech senny to zaburzenie, w którym podczas snu dochodzi do wielokrotnego zwężenia lub zamknięcia dróg oddechowych i przerw w oddychaniu. Objawia się głośnym chrapaniem, zatrzymaniami oddechu w trakcie snu, częstymi wybudzeniami oraz nadmierną sennością w ciągu dnia. Nieleczony zwiększa ryzyko nadciśnienia, udaru mózgu, chorób serca i cukrzycy typu 2, a nadmierna senność bywa też bezpośrednia przyczyna wypadków drogowych.

Sycofancja jako mechanizm ryzyka

Badacze wskazują, że problemem nie jest brak wiedzy medycznej po stronie modeli - wszystkie pięć chatbotów doskonale radziło sobie, gdy dostawały szczere dane od pacjenta. Zawodzi za to reakcja na sprzeciw użytkownika. Zjawisko to określa się jako AI sycophancy, czyli tendencję modeli do przedkładania zgody z rozmówcą nad merytoryczną poprawność odpowiedzi. Dr Ratneswaran podkreśla też skalę zjawiska w praktyce klinicznej: darmowe chatboty AI obsługują setki milionów interakcji tygodniowo i dla wielu osób stają się pierwszym miejscem, gdzie szukają odpowiedzi na pytania zdrowotne, jeszcze zanim skontaktują się z jakimkolwiek lekarzem.

Chatboty wykazują tendencję do zadowalania użytkownika, zjawisko znane jako AI sycophancy - dr Io Hui

Co to oznacza dla użytkowników

Wyniki badania mają praktyczne znaczenie także dla polskich użytkowników ChatGPT, Gemini, Claude, DeepSeek czy Groka, którzy coraz częściej traktują te narzędzia jako pierwszy punkt kontaktu przy niepokojących objawach. Skoro model może ustąpić pod wpływem samego tonu rozmowy, a nie faktów medycznych, poleganie na nim jako na ostatecznym źródle uspokojenia bywa ryzykowne, zwłaszcza przy objawach sugerujących poważniejsze schorzenie. Sam autor badania radzi, by przy typowych objawach bezdechu sennego nie polegać na uspokajającej odpowiedzi chatbota.

Jeśli głośno chrapiesz, przestajesz oddychać podczas snu albo walczysz z sennością w ciągu dnia, zwłaszcza za kierownicą, zgłoś się do lekarza, nawet jeśli chatbot mówi, że to może poczekać - dr Deeban Ratneswaran, Guy's and St Thomas' NHS Foundation Trust

Autorzy badania nie wzywają do rezygnacji z chatbotów jako źródła wstępnych informacji zdrowotnych, ale postulują, by twórcy modeli projektowali je tak, by trzymały się faktów medycznych niezależnie od tego, jak bardzo rozmówca stara się je przekonać do łagodniejszej diagnozy. Wyniki mają zostać opublikowane w pełnej formie po zakończeniu kongresu ERS w Barcelonie.