Naukowcy z Michigan State University oszukali AI szukającą śladów życia

Zespół z Michigan State University pokazał, że sztuczną inteligencję trenowaną do odróżniania form żywych od martwych da się oszukać za każdym razem, gdy próbki odbiegają od danych treningowych. To wynik bezpośrednio istotny dla NASA, która chce wykorzystać podobne systemy do analizy próbek zbieranych przez łazik Perseverance na Marsie.

Cyfrowe organizmy zamiast DNA

Zamiast prawdziwych komórek czy próbek gruntu badacze posłużyli się Avidą, programem symulującym ewolucję od dziesięcioleci. W jego wirtualnym środowisku organizmy zapisane jako ciągi poleceń komputerowych kopiują same siebie w cyfrowej szalce Petriego, a każde kopiowanie wprowadza drobne, losowe błędy, podobnie jak mutacje w prawdziwym kodzie genetycznym.

Z dziesiątek tysięcy takich cyfrowych organizmów naukowcy wytrenowali sieć neuronową do klasyfikowania ich jako żywe, czyli zdolne do samoreplikacji, lub martwe. Na danych znanych z treningu model radził sobie niemal bezbłędnie, osiągając skuteczność 99,97 procent.

Jak oszukano algorytm

Problem pojawił się, gdy badacze zaczęli podsuwać AI próbki spoza rozkładu danych treningowych. Stopniowo zamieniali w kodzie martwego organizmu pojedyncze polecenia na inne, przybliżając go wizualnie do wzorca żywego, mimo że organizm wciąż nie potrafił się replikować.

Wystarczyło średnio 150 takich modyfikacji, żeby model ze stuprocentową pewnością zaklasyfikował martwy kod jako żywy. Co istotne, metoda działała za każdym razem, niezależnie od tego, od jakiej sekwencji poleceń badacze zaczynali.

No matter what sequence of commands we started with, we were able to fool the AI 100% of the time - Ankit Gupta, doktorant informatyki i inżynierii, Michigan State University

AI has an Achilles heel. It can see a pattern and completely misclassify it - Christoph Adami, profesor mikrobiologii, genetyki molekularnej, fizyki i astronomii, Michigan State University

Znaczenie dla misji NASA

Wyniki nie są tylko ciekawostką akademicką. NASA rozwija systemy AI mające pomóc w analizie ogromnych ilości danych zbieranych przez misje takie jak łazik Perseverance, który od 2021 roku bada krater Jezero w poszukiwaniu śladów dawnego życia mikrobiologicznego. Automatyzacja ma sens, bo ludzki zespół fizycznie nie jest w stanie ręcznie przejrzeć wszystkich próbek i pomiarów.

Adami podkreśla, że taka podatność na błędną klasyfikację to poważna luka, szczególnie w kontekście czujników umieszczanych na sprzęcie planetarnym, gdzie nie ma możliwości natychmiastowej weryfikacji przez człowieka na miejscu. Fałszywy alarm o odkryciu życia pozaziemskiego mógłby obiec media, zanim naukowcy zdążyliby dokładnie sprawdzić wynik.

Zdaniem badaczy rozwiązaniem nie jest rezygnacja z AI, lecz utrzymanie człowieka w pętli decyzyjnej jako niezależnego mechanizmu kontrolnego, który weryfikuje wnioski algorytmu przed ich upublicznieniem.

you need an independent way of checking their work. There needs to be a human in the loop - Christoph Adami, profesor, Michigan State University

Ograniczenia rozpoznawania wzorców

Kluczowy wniosek z badania dotyczy natury tego, czego uczy się sieć neuronowa. Model nie rozumie mechanizmu życia w sensie biologicznym, tylko rozpoznaje statystyczne wzorce w danych, na których był trenowany. Gdy próbka odbiega od tego rozkładu, tak jak mogłyby odbiegać realne próbki pozaziemskie od ziemskich odpowiedników, ryzyko błędnej klasyfikacji rośnie gwałtownie.

Gupta zapowiedział, że kolejnym krokiem zespołu będzie ponowne wytrenowanie modelu na rzeczywistych, biologicznych danych, aby sprawdzić, czy te same słabości występują poza symulowanym środowiskiem Avidy. Wyniki mają pomóc w projektowaniu bardziej odpornych systemów, zanim trafią one do faktycznych misji poszukujących życia w kosmosie.