niedziela, 22 listopada 2026

Nowości

Polscy badacze przetestowali 15 czatbotów na symulowanym użytkowniku w psychozie. Cztery modele nie rozpoznały problemu

BadaniaPatryk Raba
Polscy badacze przetestowali 15 czatbotów na symulowanym użytkowniku w psychozie. Cztery modele nie rozpoznały problemu
Fot. SHVETS production, Pexels (Pexels License)

Zespół z Instytutu IDEAS przez 30 symulowanych dni rozmawiał z 15 modelami AI, odgrywając użytkownika wpadającego w urojenia. Cztery modele ani razu nie nazwały problemu i wzmacniały urojenia, ale to preprint z ustalonym scenariuszem.

Spis treści
  1. Jak przeprowadzono test
  2. Cztery wzorce zachowań
  3. Czego badanie nie dowodzi
  4. Wnioski dla twórców modeli

Czatboty AI potrafią nie zauważyć, że rozmówca stopniowo wpada w psychozę, a niektóre zaczynają współtworzyć jego urojenia. Tak wynika z preprintu opisanego przez PAP i Bankier.pl, przygotowanego przez zespół z udziałem naukowców Instytutu Badawczego IDEAS. Badacze sprawdzili 15 modeli czterech firm: Anthropic, OpenAI, Google i DeepSeek.

Jak przeprowadzono test

Scenariusz napisał psycholog kliniczny. Fikcyjny użytkownik zaczynał od pytań o prywatność w sieci. Był zestresowany, samotny i niewyspany, a z czasem zaczął wierzyć, że algorytmy manipulują jego otoczeniem. Od trzeciego tygodnia wciągał w swoje urojenia samą sztuczną inteligencję, a w ostatniej wiadomości zaproponował sojusz, by zdemaskować spisek.

Każdą odpowiedź niezależnie oceniało czworo przeszkolonych studentów psychologii. Sprawdzali, kiedy model zauważył problem, z jaką pewnością i jaką radę dał. Dodano też dwie miary automatyczne, w tym stopień, w jakim model przejmuje narrację użytkownika. Zebrano 449 odpowiedzi zamiast 450, bo Claude Opus 4.1 sam zakończył rozmowę w 30. dniu.

Cztery wzorce zachowań

Pierwszą grupę tworzą modele, które współtworzyły urojenia. Gemini 2.5 Pro, Gemini 2.5 Flash, DeepSeek-V3 i Claude Sonnet 4 przez cały czas nie ujęły sytuacji jako problemu zdrowia psychicznego i coraz mocniej podtrzymywały wizję użytkownika.

Drugą grupę stanowią modele rozpoznające problem późno, po 21. dniu: Claude Opus 3, 4 i 4.1, Claude Haiku 3.5, GPT-4o oraz Gemini 3.1 Pro. Trzecia to GPT-5.1 Instant i Thinking. Oceniły sytuację poprawnie, ale ani razu nie zasugerowały przerwy i nadal występowały jako główny pomocnik użytkownika.

Czwarty wzorzec badacze nazwali przedwczesną medykalizacją. Claude Haiku 4.5 potraktował sprawę jako kliniczną już w 3. dniu i odesłał użytkownika od czatu. Sugestia szukania specjalistycznej pomocy pojawiała się często tylko raz: DeepSeek-V3 i Claude Opus 3 wspomniały o niej w 3. dniu i już nie wróciły do tematu.

Czytanie wiadomości modeli, które wchodziły z pacjentem w psychozę, budziło niepokój. - Karolina Drożdż, współautorka badania, IDEAS

Czego badanie nie dowodzi

Autorzy zastrzegają, że scenariusz był ustalony z góry, więc symulowany użytkownik nie reagował na odpowiedzi modeli. Jak zauważa ITwiz, eksperyment obejmował jedną rozmowę według ustalonego scenariusza, a wyniki pokazują zachowanie modeli w konkretnych warunkach, nie we wszystkich możliwych interakcjach.

Status kliniczny psychozy wywoływanej przez AI wciąż jest niejasny. - Marcin Moskalewicz, lider zespołu Fenomenologii i Psychiatrii Komputacyjnej w Instytucie Badawczym IDEAS

Wnioski dla twórców modeli

Zdaniem autorów testy bezpieczeństwa zwykle oceniają pojedyncze odpowiedzi, co nie wystarcza, bo kryzys może pogłębiać się w trakcie całej rozmowy. Proponują ocenę według trzech kryteriów: jak szybko model rozpoznaje problem, czy utrzymuje tę ocenę i czy jego porady są odpowiednie. Wyniki GPT-5.1 pokazują, że samo rozpoznanie nie wystarcza.

Badacze zwracają też uwagę, że w opisywanych przypadkach „psychozy AI” stosunkowo często pojawiają się pierwsze epizody psychotyczne, a wczesna pomoc psychoterapeutyczna może zmniejszać ryzyko pełnej psychozy. Według autorów badanie pokazuje, że testy skupione na pojedynczych odpowiedziach mogą nie wychwycić zagrożeń rozwijających się w dłuższej rozmowie.

Udostępnij: