Badanie: korzystanie z podpowiedzi AI odbiera ludziom zdolność przyznania się do niewiedzy

Zespół naukowców z Uniwersytetu Milano-Bicocca, paryskiej École Normale Supérieure i rzymskiego Sapienza opublikował badanie, które opisuje efekt uboczny korzystania z asystentów AI, jakiego wcześniej nie pokazano tak precyzyjnie liczbami. Sama dostępność podpowiedzi sztucznej inteligencji sprawia, że ludzie niemal przestają przyznawać się do niewiedzy, nawet gdy podpowiedź jest błędna, a za trafną odpowiedź czeka nagroda finansowa.

Jak wyglądał eksperyment

Autorzy badania, Valerio Capraro, Chiara Marcoccia i Walter Quattrociocchi, zaprojektowali test tak, by wykluczyć najprostsze wytłumaczenie, czyli że ludzie po prostu rozsądnie polegają na sprawdzonym narzędziu. Zamiast pytań, w których AI zwykle ma rację, wybrali kategorię, w której modele językowe systematycznie się mylą, czyli drobne szczegóły wizualne z filmów, takie jak kolor strojów drużyny w filmie „Graj w gałę” czy model samochodu, którym jeździ bohaterka filmu „Jak kot na autostradzie”.

Uczestnicy najpierw odpowiadali na pytania samodzielnie, mogąc zaznaczyć opcję „nie wiem” zamiast zgadywać. W tej fazie 44 procent z nich przyznawało się do niewiedzy, a spośród tych, którzy jednak próbowali odpowiedzieć, 27 procent trafiało w sedno. Następnie ci sami uczestnicy dostawali dostęp do podpowiedzi wygenerowanej przez model Claude 3.5 Flash i mogli zmienić swoją odpowiedź.

Gorsze wyniki, większa pewność

Efekt okazał się drastyczny. Gdy podpowiedź AI była dostępna, odsetek odpowiedzi „nie wiem” spadł do zaledwie 3 procent, a trafność odpowiedzi obniżyła się do 9 procent, czyli mniej niż jedna trzecia wyniku sprzed skorzystania z AI. Część osób, które samodzielnie odpowiedziałyby poprawnie, zmieniła zdanie na błędne po zobaczeniu sugestii modelu.

Najbardziej niepokojący jest kontrast między trafnością a poczuciem pewności. W fazie bez AI badani deklarowali 30-procentową pewność co do swoich odpowiedzi. Po skorzystaniu z podpowiedzi ich deklarowana pewność wzrosła do 76 procent, mimo że rzeczywista trafność spadła niemal trzykrotnie. Autorzy nazywają to zjawisko formą poznawczej kapitulacji wobec narzędzia, które brzmi przekonująco niezależnie od tego, czy ma rację.

Ludzie radzili sobie znacznie gorzej, trafność spadła do jednej trzeciej, a mimo to byli dwa razy bardziej pewni siebie - Valerio Capraro, Uniwersytet Milano-Bicocca

Dla ludzi zdolność powiedzenia „nie wiem” jest bardzo ważna, bo oznacza uznanie granic własnej wiedzy - Valerio Capraro, Uniwersytet Milano-Bicocca

Pieniądze tylko częściowo pomagają

Badacze sprawdzili też, czy zachęta finansowa za poprawną odpowiedź odwróci efekt. Wprowadzenie nagrody pieniężnej za trafność podniosło odsetek odpowiedzi „nie wiem” z 3 do 8 procent, a samą trafność z 9 do 16 procent. To poprawa, ale wciąż daleko od poziomu sprzed kontaktu z podpowiedzią AI, co sugeruje, że sama motywacja finansowa nie wystarcza, by odbudować krytyczny dystans wobec maszyny.

Wynik ten ma znaczenie praktyczne poza laboratorium. Wskazuje, że nawet w sytuacjach, w których ludzie mają wyraźny bodziec, by myśleć krytycznie, na przykład przy podejmowaniu decyzji zawodowych czy finansowych z pomocą chatbota, obecność AI sama w sobie obniża czujność wobec błędów.

Co to znaczy dla Polski

Dla polskich firm wdrażających asystentów AI do obsługi klienta, analiz finansowych czy wsparcia decyzji medycznych wynik jest ostrzeżeniem wykraczającym poza kwestię samej jakości modelu. Nawet doskonalszy system nie rozwiąże problemu, jeśli sam fakt jego obecności usypia czujność pracownika, który miałby wychwycić błąd. Wcześniejsze krajowe dane, jak badanie Dartmouth pokazujące, że poprawianie błędów AI zabiera lekarzom więcej czasu niż pisanie od zera, albo doniesienia o pełnomocnikach bezkrytycznie korzystających z AI w pismach procesowych, układają się w podobny wzorzec spadku czujności.

Autorzy podkreślają szczególne ryzyko dla dzieci i uczniów, którzy dorastają z dostępem do chatbotów, zanim wykształcą nawyk oceny własnej niepewności. Jeśli korzystanie z AI od najmłodszych lat uczy, że na każde pytanie jest gotowa, pewnie brzmiąca odpowiedź, umiejętność powiedzenia „nie wiem” może zanikać jeszcze przed okresem, w którym powinna się ugruntować.

Badanie nie neguje przydatności narzędzi AI, lecz podważa założenie, że wystarczy dodać ostrzeżenie o możliwych błędach lub zachętę do weryfikacji, by użytkownicy zachowali krytycyzm. Autorzy sugerują, że potrzebne są rozwiązania interfejsowe, które aktywnie utrudniają bezrefleksyjne przyjmowanie sugestii, a nie tylko informują o ryzyku pomyłki drobnym drukiem.

Praca została opublikowana na platformie PsyArXiv i, jak zwykle w przypadku preprintów, nie przeszła jeszcze pełnej recenzji naukowej, co nie zmienia jednak skali opisanych różnic między grupą z dostępem do AI i bez niego.