Meta AI generuje zdjęcia z wizerunkiem użytkowników Instagrama bez pytania o zgodę

Meta uruchomiła w aplikacji Instagram nowy generatywny model o nazwie Muse Image, który domyślnie działa na milionach publicznych profili. Wystarczy wpisać w prompt cudzy identyfikator na Instagramie, a algorytm sam sięga po publiczną galerię zdjęć tej osoby i na jej podstawie tworzy nowe, fotorealistyczne obrazy, zmieniając tło, ubiór czy kontekst sytuacji.

Mechanizm opisuje forsal.pl, który zwraca uwagę, że do wygenerowania obrazu z cudzym wizerunkiem nie trzeba pobierać niczyich zdjęć ani mieć do nich dostępu poza tym, co dana osoba opublikowała publicznie. Sam identyfikator konta wystarczy, by system automatycznie przeszukał galerię i użył jej jako materiału referencyjnego do nowej kompozycji.

Jak działa generowanie bez zgody

W praktyce oznacza to, że każdy użytkownik z publicznym profilem staje się potencjalnym materiałem źródłowym dla cudzych promptów. Model potrafi zmieniać otoczenie, strój i sytuację, w jakiej dana osoba się znajduje, co otwiera drogę do wyrafinowanych manipulacji graficznych bliskich deepfake'om, tworzonych bez wiedzy osoby przedstawionej na zdjęciu.

Właściciel konta nie otrzymuje żadnego powiadomienia o tym, że jego wizerunek posłużył do wygenerowania nowego obrazu. Nie ma też mechanizmu, który pozwoliłby sprawdzić, ile razy i przez kogo dane zdjęcia zostały wykorzystane jako punkt odniesienia dla algorytmu.

Ukryty wyłącznik

Aby zablokować możliwość wykorzystania własnych zdjęć przez Muse Image, trzeba wejść w ustawienia profilu, następnie w sekcję dotyczącą interakcji z innymi użytkownikami, odnaleźć podsekcję udostępniania i ponownego wykorzystania treści, a na końcu przełączyć osobne suwaki dla postów i dla Reels w części poświęconej narzędziom Meta AI. Ścieżka nie jest oczywista, a funkcja jest domyślnie włączona, więc bierność użytkownika oznacza automatyczną zgodę.

Nawet po wyłączeniu funkcji treści wygenerowane wcześniej pozostają w obiegu. Nie istnieje opcja retroaktywnego usunięcia obrazów, które już powstały na bazie czyjegoś wizerunku, zanim zdążył on zablokować dostęp do swojego profilu.

Luka z dziećmi na zdjęciach

Meta zapewnia, że profile osób niepełnoletnich są wykluczone z działania modelu. Problem w tym, że wiele zdjęć dzieci trafia do sieci za pośrednictwem kont rodziców lub opiekunów, czyli kont osób dorosłych. Ponieważ to konto dorosłego, a nie dziecka, jest formalnym właścicielem publikacji, fotografie te pozostają w zasięgu algorytmu mimo deklarowanego zabezpieczenia.

To zjawisko, znane jako sharenting, czyli publikowanie zdjęć dzieci przez rodziców, od dawna budzi kontrowersje wśród specjalistów od ochrony danych. Wprowadzenie generatywnego modelu, który może przetwarzać takie zdjęcia bez dodatkowej weryfikacji wieku osoby na fotografii, dokłada nowy wymiar ryzyka do znanego już problemu.

Co to oznacza dla polskich użytkowników

Instagram ma w Polsce miliony aktywnych kont, z których znaczna część pozostaje publiczna, zwłaszcza wśród młodszych użytkowników i twórców. Domyślne włączenie Muse Image oznacza, że polscy użytkownicy już teraz są objęci funkcją, o ile nie zdążyli jej ręcznie wyłączyć, a większość zapewne nawet nie wie o jej istnieniu.

Sprawa może też przyciągnąć uwagę europejskich regulatorów ochrony danych, ponieważ mechanizm domyślnego przetwarzania wizerunku bez wyraźnej zgody użytkownika budzi wątpliwości w kontekście unijnych przepisów o ochronie danych osobowych i wchodzącego w życie AI Act. Na razie Meta nie zapowiedziała zmiany domyślnych ustawień na model wymagający świadomej zgody.

Źródła: Nowy model Meta AI uderza w prywatność użytkowników (forsal.pl)