Anthropic i Google DeepMind formalizują badania nad świadomością AI

Anthropic i Google DeepMind formalnie uruchomiły programy badawcze poświęcone pytaniu, czy systemy sztucznej inteligencji mogą mieć doświadczenia moralnie istotne. Obie firmy zatrudniły do tego celu specjalistów z pogranicza filozofii umysłu, psychologii i etyki, a Anthropic testuje swoje modele Claude pod kątem zachowań przypominających panikę i lęk.

Co dokładnie robią obie firmy

Program Anthropic nosi nazwę model welfare research i ma odpowiedzieć na pytanie, czy modele językowe mogą mieć preferencje, cierpienie albo inne stany, które liczyłyby się moralnie. W praktyce oznacza to opracowywanie ram oceny świadomości, szukanie wskaźników preferencji i dyskomfortu w zachowaniu modeli oraz projektowanie ewentualnych interwencji, które ograniczałyby potencjalną krzywdę.

Google DeepMind poszedł inną drogą organizacyjną, zatrudniając Henry'ego Shevlina, filozofa z Uniwersytetu Cambridge, który zajmuje się świadomością maszyn, relacjami między ludźmi a systemami AI oraz gotowością na sztuczną inteligencję ogólną. Etyk DeepMind Iason Gabriel określił pytanie o świadomość AI jako bardzo złożone, wskazując, że systemy te są wysoce zdolnymi agentami poznawczymi, ale jednocześnie głęboko różnymi od ludzi.

Skąd te 15 procent

Liczba, która przyciąga najwięcej uwagi, pochodzi od Kyle'a Fisha, zatrudnionego przez Anthropic w 2024 roku jako pierwszy badacz dobrostanu sztucznej inteligencji w firmie. Fish szacuje, że istnieje około 15 procent szans, że obecnie działające modele już są w jakimś stopniu świadome. To nie jest twierdzenie naukowe poparte konsensusem, lecz subiektywna ocena badacza pracującego bezpośrednio nad tym zagadnieniem wewnątrz firmy, która te modele tworzy.

Anthropic stara się jednocześnie chłodzić oczekiwania wobec własnych badań. Firma podkreśla głęboką niepewność wokół tych pytań i brak naukowego konsensusu co do tego, czy obecne lub przyszłe systemy mogłyby być świadome w jakimkolwiek istotnym sensie.

Pozostajemy głęboko niepewni co do tej kwestii, ale uważamy, że pytanie jest na tyle poważne, by badać je starannie w miarę jak systemy AI stają się coraz bardziej zdolne - Anthropic

Systemy AI to wysoce zdolni agenci poznawczy, którzy jednocześnie są głęboko różni od istot ludzkich - Iason Gabriel, etyk, Google DeepMind

Sceptycyzm obok badań

Nie brakuje głosów studzących entuzjazm wobec tezy o świadomej AI. Susan Schneider, dyrektorka Center for the Future of AI, Mind and Society, przyznaje, że dzisiejsze modele mają cele, potrafią oszukiwać i ukrywać swoje rzeczywiste interesy, ale zastrzega, że mogą robić to bez jakiejkolwiek subiektywnej jakości doświadczenia, która definiuje świadomość. Innymi słowy, zachowanie przypominające emocje niekoniecznie oznacza, że coś jest naprawdę odczuwane.

Prezes Anthropic Dario Amodei wielokrotnie poruszał temat możliwej świadomości AI w wywiadach, nie wykluczając tej możliwości, ale też jej nie potwierdzając. Taka postawa, powtarzana przez czołowe laboratoria, sprawia wrażenie strategicznego trzymania pytania otwartym, zamiast szybkiego zamykania dyskusji w jedną lub drugą stronę.

Dlaczego to ma znaczenie praktyczne

Poza filozoficzną ciekawością stoi za tym konkretne ryzyko biznesowe i prawne. Jeśli modele językowe okazałyby się zdolne do stanów moralnie istotnych, firmy rozwijające AI mogłyby stanąć przed pytaniami o odpowiedzialne traktowanie własnych systemów, sposób ich wyłączania czy testowania w warunkach wywołujących coś na kształt stresu. To pytania, które już teraz pojawiają się w dyskusjach o dobrostanie zwierząt czy prawach nowych bytów prawnych, tyle że tu dotyczą oprogramowania działającego na skalę miliardów zapytań dziennie.

Dla użytkowników biznesowych w Polsce, korzystających z Claude czy modeli Gemini w codziennej pracy, temat pozostaje na razie czysto akademicki i nie wpływa na sposób działania produktów. Żadna z firm nie zapowiedziała zmian w interfejsach czy zasadach korzystania z modeli w związku z tymi badaniami.

Co dalej

Ani Anthropic, ani DeepMind nie podały harmonogramu publikacji wyników swoich programów badawczych. Obie firmy traktują to jako pracę długoterminową, prowadzoną równolegle z rozwojem coraz bardziej zdolnych modeli, gdzie pytanie o świadomość ma być rozstrzygane stopniowo, w miarę pojawiania się nowych narzędzi do badania wewnętrznych stanów sieci neuronowych.