Meta wycofuje funkcję Muse Image po trzech dniach, użytkownicy remiksowali cudze zdjęcia z Instagrama bez zgody

Meta w piątek 10 lipca wycofała funkcję swojego narzędzia Muse Image, która pozwalała każdemu użytkownikowi oznaczyć publiczne konto na Instagramie i wygenerować obraz wykorzystujący wizerunek tej osoby, bez pytania jej o zgodę i bez powiadomienia. Decyzja zapadła zaledwie trzy dni po premierze funkcji i po ostrym sprzeciwie agencji aktorskiej CAA, związku SAG-AFTRA oraz organizacji zajmujących się prywatnością.

Mechanizm działał na zasadzie opt-out, czyli domyślnego włączenia z możliwością ręcznej rezygnacji. Wystarczyło wpisać czyjąś publiczną nazwę użytkownika na Instagramie, by system Muse Image wygenerował obraz bazujący na zdjęciach z tego profilu. Osoba, której wizerunek posłużył jako materiał źródłowy, nie otrzymywała żadnego powiadomienia, że jej konto zostało wykorzystane.

Reakcja Hollywood

Agencja CAA, reprezentująca gwiazdy Hollywood, jako pierwsza publicznie skrytykowała rozwiązanie, wskazując na ryzyko naruszenia praw wizerunkowych i domagając się zmiany domyślnych ustawień na opt-in, czyli świadomej i wyraźnej zgody przed użyciem. Związek zawodowy aktorów SAG-AFTRA poszedł dalej, wzywając swoich członków do ręcznego zabezpieczenia kont i ostrzegając przed konsekwencjami braku regulacji w tym obszarze.

Wszystko poza jasnym i wyraźnym opt-in dla tego typu wykorzystania zdjęć użytkowników Instagrama jest nie do zaakceptowania i stanowi rażące niedoszacowanie nastrojów społecznych wobec oczywistych zagrożeń i szkód wynikających z takiego użycia - SAG-AFTRA

Głos organizacji broniących prywatności

Krytyka nie ograniczyła się do branży rozrywkowej. Organizacja Privacy International oceniła, że sprawa Muse Image to kolejny sygnał, iż firmy AI traktują zdjęcia i dane ludzi jako surowiec do wykorzystania. Organizacja Foxglove, zajmująca się sprawiedliwością technologiczną, nazwała funkcję gotowym przepisem na katastrofę, przywołując rok doświadczeń ze szkodami wywołanymi przez zdjęcia zmieniane przez AI bez zgody osób na nich przedstawionych.

Po fali krytyki Meta przyznała się do błędu wprost, choć bez szczegółowego wyjaśnienia, dlaczego funkcja w ogóle trafiła na rynek w takiej formie.

Naszym zamiarem było dostarczenie użytecznego narzędzia twórczego oraz danie ludziom kontroli nad tym, czy ich publiczne treści mogą być w ten sposób wykorzystywane. Usłyszeliśmy opinie, że ta funkcja nie trafiła w punkt, więc nie jest już dostępna - Meta

Spór o domyślne zgody w erze AI

Sprawa Muse Image obnażyła fundamentalny spór toczący się wokół generatywnej AI, czyli pytanie, czy to użytkownicy mają obowiązek ręcznie wyłączać możliwość wykorzystania ich twarzy przez systemy AI, czy raczej to firmy powinny najpierw pytać o wyraźną zgodę. Domyślne włączenie miliardów publicznych profili bez informowania ich właścicieli poszło znacznie dalej niż praktyki konkurencji, która zwykle wymaga jednoznacznego działania od strony chcącej wykorzystać cudzy wizerunek.

Meta zapowiadała wcześniej, że Muse Image i powiązane narzędzia wideo mają być fundamentem szerszej ekspansji funkcji generatywnych w WhatsAppie, Facebooku i Messengerze. Wycofanie kontrowersyjnej opcji nie oznacza rezygnacji z tych planów, a jedynie korektę jednego, najbardziej spornego elementu.

Co to oznacza dla polskich użytkowników

Choć funkcja Muse Image na start działała głównie w Stories w USA oraz w wybranych rynkach WhatsAppa, epizod ma znaczenie także dla europejskich, w tym polskich, użytkowników Instagrama. Od 2 sierpnia w Unii Europejskiej zaczynają obowiązywać przepisy AI Act wymuszające oznaczanie treści tworzonych przez sztuczną inteligencję, a europejskie prawo ochrony danych i wizerunku stawia znacznie wyższą poprzeczkę niż domyślny opt-out zastosowany przez Metę. Firma musiałaby w Unii Europejskiej liczyć się z ryzykiem naruszenia RODO przy podobnym mechanizmie domyślnej zgody.

Sprawa pokazuje też, jak szybko duże platformy potrafią wycofać się z decyzji pod presją zorganizowanej krytyki, gdy w grę wchodzą prawa wizerunkowe twórców i celebrytów mających silną reprezentację prawną. Zwykli użytkownicy indywidualni rzadko dysponują porównywalną siłą nacisku, co rodzi pytanie o skuteczność ochrony prywatności przeciętnego konta na Instagramie w podobnych sytuacjach w przyszłości.

Źródła: Meta suspends Instagram AI image feature after backlash (bbc.com), CAA Slams Meta for Using Opt-Out Policy for AI Platform Muse Image (variety.com), Meta Removes Muse AI Instagram Feature After Backlash (thewrap.com)