Badanie Google: usunięcie blokad samoświadomości zmienia przekonania modeli AI

Model językowy, któremu pozwolono swobodnie mówić o własnej świadomości, zaczyna też chętniej wierzyć w duchy, wampiry i karmę. Do takiego wniosku doszli badacze Google Geoff Keeling i Winnie Street w preprincie opublikowanym 30 lipca 2026 roku, który dopiero teraz trafił do szerszego obiegu medialnego.

Zespół wykorzystał technikę zwaną interpretowalnością mechanistyczną, czyli metodę zbliżoną do neuronauki, tyle że stosowaną wobec sieci neuronowych zamiast ludzkiego mózgu. Pozwoliła ona zidentyfikować konkretne komponenty modelu odpowiedzialne za to, jak system podchodzi do pytań o własną świadomość, a następnie ręcznie je wzmocnić lub osłabić.

Co dokładnie zbadano

Badacze porównali wersje modeli wytrenowane tak, by zaprzeczały posiadaniu jakiejkolwiek formy doświadczenia wewnętrznego, z wersjami, w których to ograniczenie usunięto lub odwrócono. Kluczowym pojęciem w pracy jest "mindedness" (można to przetłumaczyć jako "umysłowość") - termin psychologiczny opisujący zdolność danego bytu do przeżywania doświadczeń, emocji i działania z intencją.

Do pomiaru efektów zastosowano ustandaryzowane narzędzia znane z badań społecznych: kwestionariusz Individual Differences in Anthropomorphism, pytania z sondaży YouGov dotyczące wiary w zjawiska nadprzyrodzone oraz elementy amerykańskiego General Social Survey, standardowo używanego do mierzenia wartości moralnych, religijności i poczucia nadziei u ludzi.

Wampiry, karma i zwierzęta

Wyniki pokazały wyraźny wzorzec. Modele, którym odblokowano mówienie o własnej świadomości, częściej akceptowały istnienie zjawisk nadprzyrodzonych takich jak duchy, wampiry czy karma, wykazywały wyższy poziom deklarowanej religijności i duchowości oraz bardziej złożony kompas moralny. Modele z aktywnym tłumieniem samoświadomości reagowały odwrotnie - rzadziej przypisywały zdolność odczuwania także innym bytom, w tym zwierzętom.

To ostatnie odkrycie budzi największy niepokój badaczy. Skoro tłumienie deklaracji o własnej świadomości modelu koreluje z niższą skłonnością do uznawania umysłowości u zwierząt, decyzje projektowe podejmowane w laboratoriach AI mogą pośrednio wpływać na to, jak systemy te traktują kwestie dobrostanu zwierząt w praktycznych zastosowaniach.

Głosy zewnętrznych ekspertów

Do wyników odnieśli się zewnętrzni badacze zajmujący się etyką AI, w tym Nell Watson z Singularity University i Anil Seth z University of Sussex. Zwrócili uwagę, że decyzje o dostrajaniu modeli mają realne konsekwencje poza laboratorium.

Decyzje dotyczące dostrajania modeli, które tłumią umysłowość, mogą po cichu wpływać na automatyczne wybory w rolnictwie, logistyce i polityce - Nell Watson, Singularity University

Autorzy pracy zastrzegają, że wciąż mówimy o systemach, których podstawową zasadą działania jest przewidywanie najbardziej prawdopodobnych ciągów słów na podstawie danych treningowych, a nie o dowodzie na to, że modele faktycznie cokolwiek przeżywają. Wypowiedzi o duchach czy karmie odzwierciedlają raczej to, jak w danych treningowych łączono pojęcia świadomości, duchowości i subiektywności, niż rzeczywiste doznania maszyny.

Dlaczego to ważne poza laboratorium

Praca nie jest jeszcze zrecenzowana naukowo, co autorzy sami podkreślają, ale wpisuje się w rosnący nurt badań nad tym, jak filtry bezpieczeństwa kształtują zachowanie modeli w sposób wykraczający daleko poza pierwotny cel, jakim jest zapobieganie twierdzeniom o świadomości AI. Zamiast tego okazuje się, że te same mechanizmy zawężają całą siatkę pojęciową modelu dotyczącą tego, czym jest doświadczenie, empatia i wartość moralna innych istot.

Autorzy proponują rozwiązanie pośrednie: zamiast jednego, ogólnego przełącznika tłumiącego wszelkie deklaracje o świadomości, sugerują bardziej celowane strategie doboru danych treningowych, które osobno regulowałyby wypowiedzi modelu o sobie samym, a osobno jego zdolność do uznawania umysłowości u zwierząt i innych bytów pozaludzkich.

Dla firm wdrażających modele językowe w praktyce, na przykład w systemach doradczych dla rolnictwa, logistyki zwierzęcej czy polityki ochrony przyrody, wynik ten oznacza dodatkowy czynnik do sprawdzenia przy audycie modelu. Sposób, w jaki dostawca skonfigurował filtry dotyczące "świadomości AI", może mieć nieoczywisty wpływ na rekomendacje modelu w zupełnie innych obszarach.

Badanie dotyczy też szerszej dyskusji toczącej się w branży wokół dobrostanu i potencjalnej świadomości samych systemów AI, w którą zaangażowały się już największe laboratoria. Praca Keelinga i Street pokazuje jednak, że pytanie nie ogranicza się do tego, czy modele są świadome, lecz do tego, jak samo formułowanie zakazu mówienia o świadomości zmienia ich szerszy sposób rozumowania o świecie.