Fałszywe zdjęcia ptaków generowane przez AI zagrażają badaniom naukowym

Naukowcy zajmujący się ornitologią i obywatelską nauką ostrzegają, że zdjęcia ptaków generowane lub edytowane przez sztuczną inteligencję zaczynają zatruwać bazy danych, na których opierają się badania nad migracjami, rozmieszczeniem gatunków i zmianami klimatu. List opublikowany w czasopiśmie Nature Ecology & Evolution wzywa platformy takie jak iNaturalist do pilnego wprowadzenia zabezpieczeń przed falą sztucznie wygenerowanych obrazów przyrody.

Problem dotyczy przede wszystkim platform obywatelskiej nauki, na których miliony pasjonatów przyrody od lat zamieszczają zdjęcia i nagrania dzikich zwierząt. iNaturalist, Macaulay Library czy aplikacje takie jak Merlin zbierają te materiały, by budować mapy występowania gatunków i trenować algorytmy rozpoznawania ptaków po głosie i wyglądzie. Naukowcy ostrzegają, że coraz częściej trafiają tam obrazy, które nie przedstawiają tego, co faktycznie zarejestrował aparat.

Fałszywy trupial z Brazylii

Konkretny przypadek opisany w liście dotyczy zdjęcia z Pantanalu w centralnej Brazylii, zgłoszonego jako obserwacja czerwonoskrzydłego trupiala. W rzeczywistości fotograf sfotografował wolgowika złocistego, gatunek o podobnym upierzeniu, i poprosił narzędzie AI, by zdjęcie "wyglądało ładniej". Algorytm dodał charakterystyczne czerwone naramienniki, tworząc obraz nieistniejącego w tym miejscu gatunku.

To właśnie tego typu przypadki niepokoją badaczy najbardziej. Nie chodzi o świadome oszustwa czy sfabrykowane obserwacje, lecz o rutynową obróbkę zdjęć, w której AI po cichu dodaje cechy innych gatunków. Fotograf często nie zdaje sobie sprawy, że stworzył fałszywy dowód obecności gatunku tam, gdzie go nigdy nie było.

Skala trudna do oszacowania

Liczba 1400 oflagowanych zdjęć na ponad 610 milionów w bazie iNaturalist brzmi jak niewielki ułamek, ale autorzy listu podkreślają, że to prawdopodobnie tylko wierzchołek problemu. Wiele zmanipulowanych fotografii nigdy nie zostanie wykrytych, bo edycje bywają subtelne, a moderatorzy platform nie są w stanie ręcznie zweryfikować każdego zgłoszenia.

Moje doświadczenie z przeglądania Facebooka pokazuje, że ogromna ilość zdjęć dzikiej przyrody to dziś po prostu obrazy generowane przez AI - Alexander Lees, ekolog, Manchester Metropolitan University

Im więcej wiemy o tym, gdzie występują gatunki, tym lepiej poinformowani mogą być ochroniarze przyrody. Ale te informacje muszą być dokładne - Tony Iwane, dyrektor wsparcia społeczności, iNaturalist

Pętla zwrotna dla algorytmów

Problem ma też drugie dno techniczne. Aplikacje rozpoznające ptaki, jak Merlin, uczą się na zdjęciach zgromadzonych właśnie na platformach obywatelskiej nauki. Jeśli w zbiorach treningowych rośnie odsetek obrazów zniekształconych przez AI, kolejne wersje modeli rozpoznawania gatunków dziedziczą te błędy i pogarszają jakość identyfikacji. Zjawisko to badacze nazywają zapadnięciem się modelu albo AI kanibalizmem, czyli sytuacją, w której sztuczna inteligencja żywi się własnymi, zdegradowanymi wytworami.

Autorzy listu zwracają uwagę, że skutki nie ograniczają się do statystyk. Błędne dane o obserwacjach mogą prowadzić naukowców do fałszywych wniosków o tym, gdzie dany gatunek faktycznie żyje, jak przesuwają się jego szlaki migracyjne i jak populacje reagują na zmiany klimatu. To z kolei wpływa na decyzje ochroniarskie, na przykład wyznaczanie obszarów chronionych czy planowanie działań na rzecz zagrożonych gatunków.

Presja na moderatorów

Platformy takie jak iNaturalist i eBird opierają się w dużej mierze na wolontariuszach, którzy ręcznie weryfikują zgłoszenia społeczności. Naukowcy ostrzegają, że rosnąca fala materiałów generowanych przez AI przyspiesza wypalenie tych kuratorów, którzy muszą poświęcać coraz więcej czasu na odróżnianie prawdziwych obserwacji od sztucznie podrasowanych zdjęć.

List w Nature Ecology & Evolution nie proponuje jednego gotowego rozwiązania, ale wzywa platformy do inwestycji w narzędzia wykrywające ingerencję AI oraz do jasnego informowania użytkowników, że edycja zdjęć generatywną sztuczną inteligencją podważa ich naukową wartość. Autorzy podkreślają, że sami fotografowie przyrody rzadko mają złe intencje, chcą po prostu ładniejszego ujęcia, nie zdając sobie sprawy z konsekwencji dla nauki.

Dla polskich obserwatorów ptaków i użytkowników aplikacji takich jak Merlin czy iNaturalist sprawa ma praktyczny wymiar: dane, na których opierają się mapy occurrence i lokalne atlasy ptaków, są tak dobre, jak dobre są zdjęcia zasilające bazę. Jeśli problem będzie się pogłębiał globalnie, wcześniej czy później dotknie też wiarygodności regionalnych rejestrów, na których korzystają polscy ornitolodzy i organizacje ochrony przyrody.