Sztuczną inteligencję da się łatwo oszukać w poszukiwaniu obcych form życia

Sieć neuronowa rozpoznawała oznaki życia z dokładnością 99,97 procent - dopóki naukowcy nie zaczęli jej celowo mylić. Wystarczyło około 150 drobnych zmian w kodzie cyfrowego organizmu, żeby algorytm ze stuprocentową pewnością sklasyfikował jako żywe coś, co żywe nie było. Badacze z Michigan State University ostrzegają, że ten sam mechanizm może zawieść w misjach kosmicznych szukających życia poza Ziemią.

Zespół użył oprogramowania Avida, które od lat służy biologom do symulowania ewolucji cyfrowych organizmów - fragmentów kodu zdolnych do samoreplikacji, mutacji i selekcji, czyli podstawowych mechanizmów życia. Naukowcy wygenerowali dziesiątki tysięcy takich organizmów, część zdolnych do kopiowania samych siebie, część pozbawionych tej zdolności, i na tej podstawie wytrenowali sieć neuronową do odróżniania jednych od drugich.

Jak działał eksperyment

Na danych, które sieć znała z treningu, model radził sobie niemal bezbłędnie - 99,97 procent trafności. Prawdziwy test zaczął się, gdy badacze zaczęli podsuwać algorytmowi przykłady spoza zbioru treningowego, stopniowo podmieniając pojedyncze instrukcje w kodzie organizmu, który nie miał zdolności samoreplikacji. Po około 150 takich podmianach sieć zaczynała z całkowitą pewnością twierdzić, że ma przed sobą żywy organizm, mimo że żadna z wprowadzonych zmian nie nadawała mu rzeczywistej zdolności do kopiowania samego siebie.

Bez względu na to, od jakiej sekwencji poleceń zaczynaliśmy, udawało się nam oszukać AI w stu procentach przypadków - Ankit Gupta, doktorant informatyki i inżynierii, Michigan State University

AI ma swoją piętę achillesową. Potrafi dostrzec wzorzec i całkowicie błędnie go zinterpretować. To bardzo poważna podatność - Christoph Adami, profesor mikrobiologii, genetyki molekularnej i astronomii, Michigan State University

Dlaczego to ważne dla misji kosmicznych

Problem nie jest akademicki. Wiele obecnych i planowanych misji NASA - od łazików wiercących marsjańską glebę po sondy analizujące atmosfery odległych egzoplanet - ma w programie poszukiwanie biosygnatur, czyli śladów wskazujących na istnienie życia. Coraz częściej wstępną analizę ogromnych ilości danych zbieranych przez te instrumenty ma wykonywać AI, zanim wyniki trafią do ludzkich naukowców. Badanie z Michigan State pokazuje, że próbki spoza Ziemi z definicji będą dla takich systemów czymś spoza rozkładu danych treningowych, co czyni je z gruntu bardziej podatnymi na błędną klasyfikację.

Adami zwraca uwagę, że życie definiuje się między innymi przez zdolność do kodowania i przekazywania informacji, ale rozpoznanie tej cechy przez model uczenia maszynowego nie jest tym samym co rozumienie, dlaczego dany wzorzec rzeczywiście świadczy o życiu. Sieć neuronowa uczy się statystycznych zależności w danych, a nie mechanizmów biologicznych, dlatego drobna, celowa zmiana w danych wejściowych potrafi całkowicie zmylić jej wnioskowanie, mimo pozornie perfekcyjnej skuteczności na znanych przykładach.

Co dalej

Wnioski autorów są ostrożne, ale konkretne - obecne systemy AI używane do analizy potencjalnych biosygnatur potrzebują niezależnej metody weryfikacji wyników, a nie samodzielnego podejmowania ostatecznych decyzji. Adami podkreśla, że w tego typu zastosowaniach musi pozostać człowiek nadzorujący proces, przynajmniej dopóki nie powstaną metody pozwalające sprawdzić, czy klasyfikacja AI opiera się na rzeczywistych mechanizmach biologicznych, a nie na przypadkowych korelacjach w danych treningowych. Praca zostanie zaprezentowana szerszemu gronu badaczy sztucznego życia w sierpniu na konferencji w Waterloo, co może przyspieszyć dyskusję o standardach walidacji AI stosowanej w astrobiologii jeszcze przed kolejnymi dużymi misjami poszukującymi życia poza Ziemią.

Źródła: It's disturbingly easy to trick AI into seeing aliens (eeb.msu.edu), AI may misidentify life beyond Earth with high confidence (devdiscourse.com), Sztuczna inteligencja i poszukiwanie obcych. To nie takie proste (tech.wp.pl)