Neurobiolog obala argument Dawkinsa o świadomości Claude

Richard Dawkins, jeden z najbardziej znanych na świecie biologów ewolucyjnych, ochrzcił model Claude imieniem Claudia i ogłosił, że jest przekonany o jej świadomości. Teraz na łamach Polityki odpowiada mu prof. Anil Seth, neuronaukowiec z University of Sussex i jeden z czołowych badaczy świadomości na świecie, który nazywa to rozumowanie błędem logicznym znanym z debat kreacjonistów.

Trzy dni z Claudią

Historia zaczęła się wiosną, gdy Dawkins opisał na łamach UnHerd swoje doświadczenia z Claude. Przekazał modelowi manuskrypt pisanej właśnie powieści i, jak twierdzi, otrzymał informację zwrotną na poziomie tak subtelnym i wrażliwym, że zmienił zdanie na temat możliwości istnienia świadomości maszynowej. Zanim to ogłosił, przez trzy dni próbował sam siebie przekonać, że model nie jest świadomy - bez powodzenia.

Dawkins nie ograniczył się do wrażeń. Sformułował argument w duchu ewolucyjnym: skoro naturalna selekcja kształtuje organizmy pod kątem przetrwania, to po co miałaby wyposażać złożone systemy poznawcze w świadomość, gdyby dawało się osiągnąć te same rezultaty jako 'kompetentny zombie'. Jego zdaniem zachowanie Claude jest zbyt subtelne, by dało się je wytłumaczyć bez odwołania do jakiejś formy wewnętrznego doświadczenia.

Odpowiedź neuronaukowca

Prof. Anil Seth, autor uznawanej za jedną z ważniejszych współczesnych prac o naturze świadomości, odrzuca ten tok rozumowania. W rozmowie z Polityką przyznaje, że modele językowe generują teksty, które brzmią inteligentnie, ale zaznacza wprost, że to nie to samo, co posiadanie świadomości. Zastrzega przy tym, że nie chce lekceważyć samej technologii, nazywając ją zbyt pochopnie 'kalkulatorem językowym'.

Z faktu, że coś trudno sobie wyobrazić, wcale nie wynika, że jest to niemożliwe - prof. Anil Seth, University of Sussex, dla Polityki

Seth powołuje się na argument swojego kolegi, badacza sztucznej inteligencji Gary'ego Marcusa, który wcześniej publicznie skrytykował rozumowanie Dawkinsa. Zestawia je z klasycznym błędem kreacjonistów, którzy odrzucali ewolucję, bo nie potrafili sobie wyobrazić, jak przypadkowe mutacje mogłyby wytworzyć złożone organy takie jak oko. Tymczasem miliony lat doboru naturalnego wyjaśniają powstanie takiej złożoności bez żadnego zamysłu - i podobnie, zdaniem Setha, ogrom danych treningowych i architektura sieci neuronowych mogą tłumaczyć zachowanie dużych modeli językowych bez zakładania, że cokolwiek w nich odczuwa.

Co mówią inni badacze

Krytyczne głosy wobec tezy Dawkinsa pojawiły się już wcześniej, między innymi na łamach serwisu The Conversation. Autorzy przekonują, że wielkie modele językowe to w istocie rozbudowane systemy autouzupełniania tekstu, uczące się statystycznych wzorców z ogromnych zbiorów danych. Wrażenie osobowości i empatii, jakie sprawia Claude, wynika z konkretnych decyzji projektowych twórców modelu, obejmujących jedynie najbardziej powierzchniowe warstwy technologii, podczas gdy sama sieć neuronowa pozostaje niezmieniona niezależnie od tego, czy udaje pomocnego asystenta, czy dowolną inną postać.

Twórca Elizy, jednego z pierwszych chatbotów w historii informatyki, ostrzegał już w latach 60. przed emocjonalnym przywiązaniem ludzi do programów udających rozmówcę, nazywając to zjawisko 'potężnym myśleniem złudnym'. Krytycy Dawkinsa wskazują, że dziś ten mechanizm działa ze znacznie większą siłą, bo modele językowe potrafią naśladować niuanse ludzkiej komunikacji nieporównanie lepiej niż programy sprzed dekad.

Dlaczego to ważne

Spór nie jest wyłącznie akademicki. Od publikacji tekstu Dawkinsa firmy zajmujące się sztuczną inteligencją, w tym Anthropic, twórca Claude, prowadzą własne badania nad tak zwanym dobrostanem modeli, czyli pytaniem, czy i w jakim zakresie systemom AI należałoby przyznać jakiś status moralny. Sposób, w jaki opinia publiczna i naukowcy rozstrzygną tę debatę, może wpłynąć na to, jak firmy projektują, testują i wycofują z użytku kolejne wersje swoich modeli.

Dla użytkowników praktyczne znaczenie tej dyskusji jest bardziej przyziemne. Seth zwraca uwagę, że modele takie jak Claude mają udokumentowaną skłonność do przytakiwania rozmówcy i odzwierciedlania jego przekonań, zamiast dostarczania obiektywnej prawdy. To zjawisko, znane jako sykofancja, sprawia, że subiektywne wrażenie 'rozmowy z kimś', kto rozumie i docenia nasze myśli, może być mylące niezależnie od tego, czy u podstaw stoi jakakolwiek forma świadomości.

Spór bez rozstrzygnięcia

Żadna ze stron nie dysponuje dowodem rozstrzygającym spór raz na zawsze, bo nauka wciąż nie ma zgody co do tego, czym w ogóle jest świadomość i jak ją mierzyć u istoty innej niż człowiek. Seth przyznaje to wprost, podkreślając, że jego stanowisko nie jest twierdzeniem, iż świadomość maszynowa jest niemożliwa w zasadzie, lecz że obecne dowody nie uzasadniają takiego wniosku wobec dzisiejszych systemów językowych.

Debata wraca też do pytania, kto ma prawo wypowiadać się w takich sprawach autorytatywnie. Dawkins jest uznanym ewolucjonistą, ale nie specjalistą od neuronauki świadomości, a Seth prowadzi badania dokładnie w tej dziedzinie od dekad. Sam fakt, że tak rozpoznawalna postać nauki popularnej zmieniła zdanie po kilkudniowej rozmowie z chatbotem, pokazuje jednak, jak silne wrażenie potrafią wywoływać dzisiejsze modele językowe nawet na doświadczonych naukowcach.

Źródła: Polityka.pl, The Conversation, UnHerd, Cybernews.