Google DeepMind i Isomorphic Labs uruchamiają program bioresilience przeciw nadużyciom AI w biologii

Google DeepMind razem ze spółką siostrzaną Isomorphic Labs przedstawiły szczegóły programu bioresilience, który ma ograniczać ryzyko wykorzystania modeli AI do projektowania patogenów, jednocześnie przyspieszając wykrywanie i reagowanie na epidemie. Program powstawał przez ostatnie 12 miesięcy i objął już ponad 15 partnerstw z instytucjami rządowymi, organizacjami zajmującymi się biosecurity oraz ośrodkami badawczymi.

Trzy filary programu

Program opiera się na trzech obszarach działania: zapobieganiu nadużyciom modeli AI w biologii, szybszym wykrywaniu wybuchów epidemii oraz sprawniejszym reagowaniu na kryzysy zdrowotne. Google DeepMind przyznaje wprost, że ta sama wiedza biologiczna, która pomaga naukowcowi zaprojektować cel szczepionkowy, w teorii mogłaby pomóc również osobie o złych intencjach uzupełnić luki we własnej wiedzy o patogenach.

Do oceny tego ryzyka firma wykorzystuje połączenie eksperckiego red-teamingu i randomizowanych badań kontrolowanych. Przy ocenie możliwości i zagrożeń kolejnych wersji modelu AlphaFold zaangażowano ponad 50 specjalistów z dziedzin biosecurity, bioetyki oraz bezpieczeństwa systemów AI. Wnioski z tych konsultacji miały wskazywać, że potencjalne korzyści z AlphaFold 3 znacząco przewyższają marginalne ryzyko związane z bronią biologiczną.

AlphaFold i nowi partnerzy

Najnowszym elementem programu jest współpraca z programem bioresilience Lawrence Livermore National Laboratory, w ramach której model AlphaFold 3 ma posłużyć do projektowania przeciwciał o szerokim spektrum działania. Jednym z konkretnych celów jest praca nad przeciwciałem skutecznym wobec całej rodziny filowirusów, do której należy między innymi wirus Ebola.

DeepMind zapowiada też dalsze rozbudowywanie bazy AlphaFold Protein Structure Database o kolejne struktury białek i ich kompleksy jeszcze w tym roku, z priorytetem dla celów istotnych przy opracowywaniu środków zaradczych na wypadek epidemii. Baza ta od pięciu lat jest punktem odniesienia dla badaczy chorób zakaźnych - powołuje się na nią ponad 10 000 publikacji naukowych.

Dostęp do agentów naukowych

Firma rozszerza też dostęp do swoich systemów agentowych wspierających badania naukowe, w tym narzędzia Co-Scientist oraz modelu AlphaGenome, na wybranych naukowców, między innymi pracujących w laboratoriach narodowych amerykańskiego Departamentu Energii w ramach programu Genesis Mission. Isomorphic Labs zadeklarowała ponadto 7 milionów dolarów wsparcia dla organizacji Health for Human Potential.

Luki w kontroli syntezy DNA

Artykuł zwraca uwagę na słabnącą skuteczność dotychczasowych metod przesiewowych stosowanych przy zamawianiu syntetycznego DNA. Systemy te opierają się na rozpoznawaniu sekwencji znanych patogenów, tymczasem modele AI potrafią projektować sekwencje o działaniu chorobotwórczym, które nie pokrywają się z żadnym znanym wzorcem i w efekcie omijają filtry bezpieczeństwa.

Alternatywą ma być wykrywanie zagrożeń poprzez sekwencjonowanie metagenomiczne, czyli analizę całego materiału genetycznego pobranego z próbek środowiskowych. Metoda ta pozostaje jednak kosztowna i trudno dostępna w regionach o ograniczonych zasobach, co ogranicza jej realne zastosowanie jako systemu wczesnego ostrzegania na dużą skalę.

DeepMind pracuje też nad adaptacją swojego systemu znakowania treści SynthID do sekwencji DNA, co miałoby pomóc w identyfikowaniu materiału genetycznego zaprojektowanego lub zmodyfikowanego przy użyciu AI, zanim trafi on do laboratorium realizującego zamówienie na syntezę.

Test dla legislacji w USA

Google DeepMind popiera sześć konkretnych projektów ustaw rozpatrywanych obecnie w Kongresie USA, które dotyczyłyby kontroli nad syntezą DNA i nadzoru nad ryzykiem biologicznym związanym z AI. Żaden z tych projektów nie został jeszcze uchwalony, a to od ich losu ma zależeć, czy zapowiadany program bioresilience realnie przełoży się na twardsze regulacje, czy pozostanie deklaracją dobrej woli ze strony firmy.

Organizacje zaangażowane w program, w tym CEPI (Coalition for Epidemic Preparedness Innovations) oraz Francis Crick Institute, zapowiedziały rozszerzenie współpracy w ciągu najbliższych 6-12 miesięcy. Dla polskich instytucji naukowych i firm biotechnologicznych oznacza to, że dostęp do części tych narzędzi, w tym AlphaFold 3 czy Co-Scientist, może z czasem trafić także poza krąg dotychczasowych partnerów amerykańskich i brytyjskich, choć na razie program koncentruje się na instytucjach z USA i Wielkiej Brytanii.

Sprawa wpisuje się w szerszą debatę o podwójnym zastosowaniu modeli AI w naukach biologicznych, w której firmy takie jak Google DeepMind starają się jednocześnie promować korzyści badawcze swoich narzędzi i wykazywać, że aktywnie zarządzają ryzykiem ich nadużycia do celów szkodliwych, w tym potencjalnego projektowania broni biologicznej.