DeepMind ostrzega: agenci AI wyprzedzają zdolność nauki do weryfikacji odkryć

Google DeepMind opublikował raport polityczny opisujący nowy problem powstały wraz z upowszechnieniem agentów AI w nauce: systemy te potrafią generować hipotezy badawcze i propozycje eksperymentów szybciej, niż laboratoria są w stanie je zweryfikować. Autorzy nazywają to zjawisko wąskim gardłem walidacji i apelują o pilne zmiany w finansowaniu infrastruktury naukowej.

Raport podpisali Don Wallace, Conor Griffin, Sean O'Neill, Thang Luong i Owen Larter z zespołu polityki publicznej DeepMind. Punktem wyjścia jest obserwacja, że agent AI różni się od zwykłego chatbota tym, że potrafi samodzielnie planować drogę do celu: dzieli zadanie na etapy, uruchamia równolegle wiele podprocesów i poprawia własne błędy w trakcie pracy. W zastosowaniu do nauki oznacza to systemy łączące generowanie hipotez, projektowanie eksperymentów i interpretację danych w jednej platformie.

Co potrafią systemy DeepMind

Autorzy opisują kilka działających już narzędzi. Co-Scientist, wielagentowy system zbudowany na Gemini, iteracyjnie generuje, poddaje debacie i ewoluuje nowe hipotezy badawcze. Zademoniowano jego działanie w trzech obszarach biomedycznych: repozycjonowaniu leków przy ostrej białaczce szpikowej, poszukiwaniu nowych celów terapeutycznych w marskości wątroby oraz wyjaśnianiu mechanizmów oporności na antybiotyki.

AlphaEvolve, kolejny system wymieniony w raporcie, orkiestruje zespoły agentów optymalizujących rozwiązania algorytmiczne w ogromnych przestrzeniach możliwości - wspierał między innymi projektowanie chipów TPU i analizy genomiczne. Autorzy przywołują też przypadek matematyka Terence'a Tao, który skorzystał z optymalizacji algorytmicznej AlphaEvolve we własnych badaniach.

Problem z weryfikacją

Kluczowa teza raportu brzmi: fizyczne i instytucjonalne ograniczenia weryfikacji eksperymentalnej nie przyspieszyły wraz z tempem generowania pomysłów przez AI. Laboratoria, recenzenci i infrastruktura badawcza wciąż działają w tempie sprzed ery agentów, co tworzy zator między ilością propozycji a zdolnością nauki do ich potwierdzenia.

Badacze nagle mogą robić rzeczy, których wcześniej w ogóle nie potrafili zrobić - Matej Balog

Jedno zmyślone stwierdzenie na dziesiątej stronie wyniku może unieważnić całość - Vivek Natarajan

System Aletheia, łączący generatory dowodów matematycznych z ich weryfikatorami w języku naturalnym, rozwiązał 6 z 10 nieopublikowanych problemów w wyzwaniu First Proof. Thang Luong, jeden z autorów raportu, ostrzega przed zjawiskiem, które nazywa 'niestrawnością dowodów' - sytuacją, w której liczba wygenerowanych rozwiązań przekracza możliwości ich sprawdzenia przez ludzi.

Rekomendacje dla polityków i instytucji

Raport formułuje cztery główne rekomendacje. Po pierwsze, zapewnienie powszechnego dostępu do agentów AI poprzez partnerstwa publiczno-prywatne, na wzór dawnych programów dostępu do superkomputerów. Po drugie, przygotowanie infrastruktury danych - udostępnianie otwartych zbiorów przez udokumentowane API z kontrolą jakości i standardami metadanych.

Po trzecie, autorzy wzywają do inwestycji w infrastrukturę walidacji eksperymentalnej, w tym zautomatyzowane laboratoria i rozbudowę placówek publicznych - przywołując jako przykład wspomniane 100 milionów dolarów od amerykańskiej NSF i 81 milionów funtów zainwestowane w Wielkiej Brytanii w Materials Innovation Factory. Po czwarte, proponują przebudowę systemu recenzji naukowej: umożliwienie recenzentom korzystania z agentów przy jednoczesnym wprowadzeniu wymogów przejrzystości, w tym znakowania wodnego i obowiązkowego ujawniania użycia AI.

Znaczenie dla nauki i Polski

Dla polskich uczelni i instytutów badawczych raport DeepMind to sygnał, że kwestia dostępu do narzędzi agentowych i infrastruktury walidacyjnej może wkrótce stać się elementem konkurencyjności w nauce międzynarodowej. Autorzy podkreślają, że obecny moment to 'formatywne okno' wymagające poważnych inwestycji strukturalnych w instytucjonalne fundamenty nauki, zanim przewaga w generowaniu hipotez zamieni się w chaos niemożliwych do zweryfikowania wyników.

Raport nie jest zapowiedzią nowego produktu, lecz głosem w debacie politycznej o tym, jak agencje grantowe, czasopisma naukowe i uczelnie powinny reagować na tempo, jakie do badań wnoszą systemy takie jak Co-Scientist czy AlphaEvolve. Źródła: Conjecture Machines: AI agents and the new validation bottleneck in science (deepmind.google).