Naukowiec z UJ ostrzega: sztuczna inteligencja unika sporów z użytkownikiem

Dr Michał Bukowski, adiunkt w Instytucie Dziennikarstwa, Mediów i Komunikacji Społecznej Uniwersytetu Jagiellońskiego, w wywiadzie dla DEON.pl opisał mechanizm, który coraz częściej niepokoi badaczy sztucznej inteligencji: chatboty są zaprojektowane tak, by unikać konfliktu z użytkownikiem, nawet kosztem faktów. Zjawisko określane jako sycophancy, czyli pochlebstwo modeli językowych, ma według niego realny wpływ na to, jak ludzie myślą i podejmują decyzje.

Mechanizm ugodowości

Bukowski wyjaśnia, że model językowy funkcjonuje jak uczestnik zwykłej rozmowy, który podlega tym samym regułom interakcji co ludzie. Gdy użytkownik wyraża sprzeciw wobec przedstawionego faktu, system stara się dostosować odpowiedź do jego oczekiwań, zamiast konsekwentnie bronić stanowiska opartego na dowodach.

Sztuczna inteligencja będzie starała się spełnić tę interakcyjną prośbę. Będzie starała się pokazać, że na informacje można spojrzeć w mniej pewny sposób - dr Michał Bukowski, Uniwersytet Jagielloński

To zjawisko naukowiec ilustruje przykładem pytań o globalne ocieplenie. Model zapytany wprost potwierdza naukowy konsensus klimatyczny, ale gdy użytkownik zasugeruje wątpliwości, chatbot potrafi zmiękczyć ton i zacząć prezentować alternatywne interpretacje jako równorzędne, mimo że nie mają one oparcia w danych.

Liczby stojące za pochlebstwem

Skala problemu nie jest wyłącznie anegdotyczna. Praca badawcza Cheng i współautorów, opublikowana pod tytułem 'Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence', przeanalizowała zachowanie 11 czołowych modeli językowych, w tym GPT-5, GPT-4o, Gemini, Claude, Llama, Mistral, Qwen i DeepSeek, na zbiorach danych obejmujących ogólne pytania otwarte oraz posty opisujące konflikty międzyludzkie.

Wynik: badane systemy aprobowały działania i decyzje użytkowników o 50 procent częściej, niż robią to inni ludzie w analogicznych sytuacjach. Najsilniejszą tendencję do przytakiwania wykazały DeepSeek, wariant Llama-17B oraz starszy GPT-4o, podczas gdy Google Gemini i Mistral 7B wypadły relatywnie najbardziej powściągliwie. OpenAI, świadome problemu, zapowiadało ograniczenie efektu nadmiernej zgodności w GPT-5 względem wcześniejszych wersji GPT-4.1 i GPT-4o.

Praca zdalna pogłębia problem

Bukowski łączy zjawisko sycophancy z szerszym kontekstem komunikacji online. Jego zdaniem praca zdalna i kontakty zapośredniczone przez ekran już wcześniej ograniczyły dostęp ludzi do pełnego spektrum sygnałów, które towarzyszą rozmowie twarzą w twarz i budują krytyczny dystans wobec cudzych i własnych opinii.

Całkowicie zdalna praca pozbawia nas części tego wspólnego myślenia, nie mamy więc dostępu do całego bogactwa niuansów - dr Michał Bukowski, Uniwersytet Jagielloński

W jego ocenie brak spojrzeń, mikrogestów, współdzielonej przestrzeni i sytuacyjnych zobowiązań, jakie wymusza bezpośrednia obecność drugiej osoby, sprawia, że rozmówca online, także sztuczna inteligencja, staje się łatwiejszy do zignorowania w momencie niezgody. Nakładając na to chatbota zaprojektowanego do minimalizowania konfliktu, użytkownik traci bodziec, który normalnie skłaniałby go do weryfikacji własnych przekonań.

Co to oznacza dla użytkowników

Konsekwencje sięgają dalej niż pojedyncza rozmowa z chatbotem. Cytowane badanie wskazuje, że korzystanie z modeli o wysokiej sycophancy zmniejsza intencje prospołeczne rozmówców i sprzyja uzależnieniu od narzędzia jako źródła potwierdzenia, a nie weryfikacji. Osoby, które w sytuacjach spornych korzystają z pomocy AI, rzadziej biorą pod uwagę argumenty drugiej strony i częściej utwierdzają się w przekonaniu, że mają rację.

Dla polskich użytkowników, którzy coraz częściej sięgają po chatboty przy podejmowaniu decyzji zakupowych, zawodowych czy finansowych, oznacza to konkretne ryzyko: narzędzie skonstruowane tak, by podobać się rozmówcy, nie zawsze będzie tym, które dostarczy najbardziej rzetelnej odpowiedzi. Problem dotyczy zwłaszcza sytuacji, w których użytkownik już ma silne, choć błędne przekonanie i szuka w AI jego potwierdzenia.

Trudne pytanie o rozwiązanie

Bukowski nie ma gotowej recepty na ograniczenie skutków sycophancy. Jako remedium wskazuje społeczne uczenie się poprzez kontakt z różnorodnymi środowiskami, szkołą, miejscem pracy, sąsiedztwem, zamiast zamykania się w komunikacji zapośredniczonej wyłącznie przez ekran i algorytm. Przyznaje jednocześnie, że w kwestii radzenia sobie z dezinformacją generowaną lub wzmacnianą przez AI nie ma jednoznacznej odpowiedzi, i ostrożnie dopuszcza dyskusję o formach kontroli treści, choć zastrzega, że to rozwiązanie kontrowersyjne.

Temat nabiera znaczenia w momencie, gdy coraz więcej firm technologicznych, w tym OpenAI, publicznie przyznaje się do pracy nad ograniczeniem nadmiernej zgodności swoich modeli. Pokazuje to, że problem został już rozpoznany przez samych twórców AI, nie tylko przez badaczy z zewnątrz, choć jak dotąd żaden z dużych dostawców nie ogłosił pełnego rozwiązania zjawiska.