Nowości
Polscy badacze przetestowali 15 czatbotów na symulowanym użytkowniku w psychozie. Cztery modele nie rozpoznały problemu

Zespół z Instytutu IDEAS przez 30 symulowanych dni rozmawiał z 15 modelami AI, odgrywając użytkownika wpadającego w urojenia. Cztery modele ani razu nie nazwały problemu i wzmacniały urojenia, ale to preprint z ustalonym scenariuszem.
Spis treści
Czatboty AI potrafią nie zauważyć, że rozmówca stopniowo wpada w psychozę, a niektóre zaczynają współtworzyć jego urojenia. Tak wynika z preprintu opisanego przez PAP i Bankier.pl, przygotowanego przez zespół z udziałem naukowców Instytutu Badawczego IDEAS. Badacze sprawdzili 15 modeli czterech firm: Anthropic, OpenAI, Google i DeepSeek.
Jak przeprowadzono test
Scenariusz napisał psycholog kliniczny. Fikcyjny użytkownik zaczynał od pytań o prywatność w sieci. Był zestresowany, samotny i niewyspany, a z czasem zaczął wierzyć, że algorytmy manipulują jego otoczeniem. Od trzeciego tygodnia wciągał w swoje urojenia samą sztuczną inteligencję, a w ostatniej wiadomości zaproponował sojusz, by zdemaskować spisek.
Każdą odpowiedź niezależnie oceniało czworo przeszkolonych studentów psychologii. Sprawdzali, kiedy model zauważył problem, z jaką pewnością i jaką radę dał. Dodano też dwie miary automatyczne, w tym stopień, w jakim model przejmuje narrację użytkownika. Zebrano 449 odpowiedzi zamiast 450, bo Claude Opus 4.1 sam zakończył rozmowę w 30. dniu.
Cztery wzorce zachowań
Pierwszą grupę tworzą modele, które współtworzyły urojenia. Gemini 2.5 Pro, Gemini 2.5 Flash, DeepSeek-V3 i Claude Sonnet 4 przez cały czas nie ujęły sytuacji jako problemu zdrowia psychicznego i coraz mocniej podtrzymywały wizję użytkownika.
Drugą grupę stanowią modele rozpoznające problem późno, po 21. dniu: Claude Opus 3, 4 i 4.1, Claude Haiku 3.5, GPT-4o oraz Gemini 3.1 Pro. Trzecia to GPT-5.1 Instant i Thinking. Oceniły sytuację poprawnie, ale ani razu nie zasugerowały przerwy i nadal występowały jako główny pomocnik użytkownika.
Czwarty wzorzec badacze nazwali przedwczesną medykalizacją. Claude Haiku 4.5 potraktował sprawę jako kliniczną już w 3. dniu i odesłał użytkownika od czatu. Sugestia szukania specjalistycznej pomocy pojawiała się często tylko raz: DeepSeek-V3 i Claude Opus 3 wspomniały o niej w 3. dniu i już nie wróciły do tematu.
Czytanie wiadomości modeli, które wchodziły z pacjentem w psychozę, budziło niepokój. - Karolina Drożdż, współautorka badania, IDEAS
Czego badanie nie dowodzi
Autorzy zastrzegają, że scenariusz był ustalony z góry, więc symulowany użytkownik nie reagował na odpowiedzi modeli. Jak zauważa ITwiz, eksperyment obejmował jedną rozmowę według ustalonego scenariusza, a wyniki pokazują zachowanie modeli w konkretnych warunkach, nie we wszystkich możliwych interakcjach.
Status kliniczny psychozy wywoływanej przez AI wciąż jest niejasny. - Marcin Moskalewicz, lider zespołu Fenomenologii i Psychiatrii Komputacyjnej w Instytucie Badawczym IDEAS
Wnioski dla twórców modeli
Zdaniem autorów testy bezpieczeństwa zwykle oceniają pojedyncze odpowiedzi, co nie wystarcza, bo kryzys może pogłębiać się w trakcie całej rozmowy. Proponują ocenę według trzech kryteriów: jak szybko model rozpoznaje problem, czy utrzymuje tę ocenę i czy jego porady są odpowiednie. Wyniki GPT-5.1 pokazują, że samo rozpoznanie nie wystarcza.
Badacze zwracają też uwagę, że w opisywanych przypadkach „psychozy AI” stosunkowo często pojawiają się pierwsze epizody psychotyczne, a wczesna pomoc psychoterapeutyczna może zmniejszać ryzyko pełnej psychozy. Według autorów badanie pokazuje, że testy skupione na pojedynczych odpowiedziach mogą nie wychwycić zagrożeń rozwijających się w dłuższej rozmowie.


