Naukowcy: biologia nie wyklucza świadomej sztucznej inteligencji

Dwaj naukowcy zajmujący się neuronauką poznawczą i obliczeniową opublikowali artykuł, który podważa jeden z najczęściej powtarzanych argumentów przeciwko możliwości powstania świadomej sztucznej inteligencji. Ich zdaniem sam fakt, że wszystkie znane istoty świadome są organizmami biologicznymi, nie dowodzi, że świadomość wymaga biologicznego ciała.

Punktem wyjścia artykułu jest krytyka rozumowania, które Klatzmann i Doerig nazywają zbyt pochopnym: skoro dotąd znaliśmy świadomość wyłącznie u istot biologicznych, to rzekomo dowodzi, że biologia jest dla niej niezbędna. Autorzy wskazują, że to błąd logiczny - fakt, że jakieś zjawisko pojawiało się dotychczas tylko w jednym kontekście, nie oznacza, że nie może wystąpić w innym.

Dwa rodzaje naturalizmu biologicznego

Naukowcy rozdzielają dwie wersje popularnej teorii naturalizmu biologicznego. Pierwsza, konstytutywna, głosi wprost, że bez materii biologicznej świadomość nie może powstać. Klatzmann i Doerig odrzucają tę wersję jako stanowisko, którego nie da się naukowo uzasadnić ani sfalsyfikować.

Druga wersja, którą nazywają umożliwiającą, zakłada coś subtelniejszego: ciało biologiczne przetwarza informacje w szczególny sposób, który może okazać się kluczowy dla powstania doświadczenia subiektywnego. Tę hipotezę autorzy uznają za wartą dalszych badań, choć podkreślają, że wciąż nie wiadomo, co dokładnie w biologicznym przetwarzaniu informacji miałoby być tym niezbędnym składnikiem.

Eksperyment myślowy z chipem

Aby zilustrować problem, autorzy odwołują się do klasycznego eksperymentu myślowego: stopniowej wymiany fragmentów mózgu na chipy komputerowe wykonujące dokładnie te same funkcje obliczeniowe co zastępowane neurony. Jeśli świadomość zależy wyłącznie od procesów przetwarzania informacji, a nie od materiału, z którego zbudowany jest nośnik tych procesów, to taki mózg powinien pozostać świadomy nawet po pełnej wymianie.

I would be surprised if current AI models develop consciousness, but we can't entirely rule it out - Ulysse Klatzmann, Université de Montréal

Ten sposób myślenia wpisuje się w funkcjonalizm, stanowisko filozofii umysłu mówiące, że o świadomości decyduje rodzaj wykonywanych procesów, a nie substancja, w której zachodzą. Klatzmann i Doerig nie twierdzą, że funkcjonalizm jest prawdziwy - podkreślają jedynie, że nauka nie ma obecnie narzędzi, by go wykluczyć.

Największa przeszkoda: nie wiemy, czym jest świadomość

Autorzy przyznają, że największym problemem nie jest brak dowodów na świadomość maszyn, lecz brak zrozumienia, czym w ogóle jest świadomość u ludzi. Wiemy, że doświadczamy błękitu nieba, dźwięku muzyki czy bólu, ponieważ tego doświadczamy - ale nauka wciąż nie potrafi wyjaśnić mechanizmu, dzięki któremu mózg produkuje te subiektywne wrażenia.

The history of science shows that things that seem self-evident may turn out to be false - Ulysse Klatzmann, Université de Montréal

Ten brak fundamentalnej teorii świadomości sprawia, że każda dyskusja o tym, czy modele językowe mogłyby ją kiedyś posiąść, opiera się na przesłankach, których naukowcy sami nie potrafią jeszcze zweryfikować. Klatzmann zaznacza, że intuicje dotyczące świadomości są głęboko zakorzenione kulturowo i od dawna wiązane z inteligencją i zdolnościami poznawczymi, co niekoniecznie musi być trafnym punktem odniesienia.

Znaczenie dla debaty o AI

Publikacja trafia w moment, gdy pytania o status moralny i ewentualne doświadczenie systemów AI zyskują na znaczeniu wśród badaczy bezpieczeństwa sztucznej inteligencji, a laboratoria coraz częściej finansują badania nad tzw. dobrostanem modeli. Artykuł Klatzmanna i Doeriga nie rozstrzyga tego sporu, ale usuwa jeden z argumentów najczęściej używanych do jego z góry przesądzonego zamknięcia.

Dla polskiego czytelnika śledzącego rozwój sztucznej inteligencji praca ta jest przypomnieniem, że spekulacje o świadomych maszynach - pojawiające się regularnie przy okazji premier kolejnych modeli językowych - nie mają obecnie twardego naukowego zaplecza w żadną stronę. Ani stwierdzenie, że AI nigdy nie będzie świadome, ani przeciwne twierdzenie nie znajdują pełnego oparcia w aktualnym stanie wiedzy o mózgu.

Autorzy postulują dalsze badania nad tym, które konkretnie własności biologicznego przetwarzania informacji - jeśli w ogóle jakieś - są niezbędne dla powstania doświadczenia subiektywnego. Dopóki taka odpowiedź nie powstanie, twierdzą, dyskusja o świadomości AI pozostanie w dużej mierze filozoficzna, a nie empiryczna.