Google DeepMind publikuje mapę drogową od AGI do superinteligencji

Google DeepMind opublikował obszerny raport zatytułowany "From AGI to ASI", w którym czternastu badaczy firmy opisuje, jak sztuczna inteligencja mogłaby rozwijać się po osiągnięciu poziomu porównywalnego z człowiekiem. Autorzy, wśród których jest współzałożyciel DeepMind Shane Legg, twierdzą, że osiągnięcie AGI w najbliższej dekadzie stało się dla czołowych laboratoriów AI realistycznym celem, a nie odległą hipotezą, więc czas zacząć poważnie analizować, co nastąpi później.

Raport definiuje AGI jako sztuczną inteligencję ogólną na poziomie człowieka, a ASI jako system przewyższający zdolnościami poznawczymi nie pojedynczą osobę, lecz całe organizacje ludzkie. To rozróżnienie ma znaczenie, bo autorzy nie traktują przejścia od AGI do ASI jako jednego przełomowego momentu, lecz jako proces rozciągnięty w czasie i podzielony na wiele mniejszych, kumulujących się skoków możliwości.

Cztery ścieżki do superinteligencji

Pierwsza ścieżka, skalowanie AGI, zakłada, że dalszy wzrost mocy obliczeniowej, ilości danych treningowych i rozmiaru modeli sam w sobie doprowadzi do zdolności przewyższających ludzkie organizacje. Druga, zmiana paradygmatu, odnosi się do fundamentalnych przełomów architektonicznych wykraczających poza obecne podejście oparte na transformerach i uczeniu na dużych zbiorach danych.

Trzecia ścieżka to rekurencyjne samodoskonalenie, czyli systemy zdolne do ulepszania własnego kodu, architektury lub procesu treningu bez stałego udziału człowieka. Czwarta, najmniej intuicyjna, zakłada, że superinteligencja nie pojawi się w pojedynczym modelu, lecz wyłoni się z koordynacji wielu agentów AI działających razem na dużą skalę, podobnie jak zdolności organizacji ludzkich przewyższają zdolności pojedynczych pracowników.

Tarcia i wąskie gardła

Autorzy podkreślają, że żadna z tych ścieżek nie jest przesądzona ani łatwa. Raport analizuje bariery, które mogą spowolnić lub zablokować każdą z nich, od ograniczeń fizycznych dostępnej mocy obliczeniowej, przez brak danych wysokiej jakości, po trudności w utrzymaniu kontroli nad systemami, które same modyfikują swoje działanie. W dokumencie pojawia się też pojęcie "Universal AI" jako teoretycznego, odległego punktu odniesienia dla całego kontinuum inteligencji maszynowej, zaczerpnięte z wcześniejszych prac teoretycznych współautora Marcusa Huttera.

Zamiast pojedynczego, przełomowego "momentu AGI", powinniśmy spodziewać się serii przyspieszających, wspieranych przez AI transformacji - autorzy raportu, Google DeepMind

Dlaczego DeepMind pisze o tym teraz

Publikacja raportu zbiega się z serią wypowiedzi szefa Google DeepMind Demisa Hassabisa, który w ostatnich tygodniach wzywał do stworzenia niezależnego, międzynarodowego organu do testowania i certyfikowania najpotężniejszych modeli AI, wzorowanego na instytucjach nadzoru finansowego. Raport "From AGI to ASI" można czytać jako techniczne uzasadnienie tych apeli: skoro ścieżki do superinteligencji są realne i wielorakie, a mechanizmy kontroli wciąż nieprzetestowane, autorzy twierdzą, że stawienie czoła temu wyzwaniu wymaga "masowo interdyscyplinarnego przedsięwzięcia o globalnym zasięgu i znaczeniu".

To sformułowanie nie jest przypadkowe. Wśród współautorów raportu są nie tylko inżynierowie i teoretycy uczenia maszynowego, ale też badacze zajmujący się etyką AI i polityką bezpieczeństwa, tacy jak Iason Gabriel czy Allan Dafoe. Sugeruje to, że DeepMind traktuje pytanie o ASI nie jako czysto techniczne, lecz jako problem wymagający zaangażowania rządów, instytucji naukowych i społeczeństwa na długo przed pojawieniem się takich systemów.

Co to znaczy dla branży i Polski

Dla firm i inwestorów śledzących wyścig o coraz potężniejsze modele raport DeepMind jest sygnałem, że jedno z czołowych laboratoriów świata traktuje przejście od AGI do superinteligencji jako scenariusz wymagający przygotowania już teraz, a nie odległą science fiction. Dla polskich instytucji zajmujących się regulacją i bezpieczeństwem AI, w tym powstającego właśnie Centrum Implementacji Sztucznej Inteligencji przy Wojsku Polskim czy Rady Przyszłości przy premierze, dokument dostarcza konkretnego, choć spekulatywnego, słownika pojęć do dyskusji o tym, jakie mechanizmy nadzoru będą potrzebne, zanim pojawią się systemy przewyższające zdolnościami całe organizacje.

Raport nie podaje żadnej konkretnej daty pojawienia się ASI ani nie twierdzi, że którakolwiek z czterech ścieżek jest bardziej prawdopodobna od pozostałych. Autorzy zastrzegają, że niepewność co do tempa postępu jest na tyle duża, iż transformacyjne zmiany mogą nastąpić poprzez serię mniejszych przełomów rozłożonych na lata, a nie jeden gwałtowny skok. To stonowane podejście odróżnia dokument od bardziej alarmistycznych prognoz publikowanych w ostatnich miesiącach przez inne zespoły badawcze zajmujące się bezpieczeństwem AI.

Pełna wersja raportu, licząca 57 stron, jest dostępna publicznie zarówno na stronie Google DeepMind, jak i w repozytorium arXiv, co pozwala niezależnym badaczom na weryfikację przyjętych założeń i krytykę proponowanych ścieżek rozwoju.