Norwegia zakazuje generowania seksualnych deepfake'ów przez AI

Norweski parlament przyjął nowe przepisy, które czynią przestępstwem tworzenie i rozpowszechnianie generowanych przez sztuczną inteligencję treści seksualnych przedstawiających realne osoby bez ich zgody. Regulacja obejmuje wprost deepfake'i tworzone popularnymi narzędziami AI, w tym Grokiem z platformy X Elona Muska.

Co dokładnie zakazano

Nowe prawo penalizuje generowanie i udostępnianie materiałów o charakterze seksualnym stworzonych przez AI na podstawie wizerunku konkretnej osoby, jeśli ta osoba nie wyraziła na to zgody. W praktyce chodzi o zjawisko znane jako nonconsensual intimate imagery, czyli intymne treści tworzone i rozpowszechniane bez zgody przedstawionej osoby, coraz częściej generowane w kilka sekund przez darmowe lub tanie narzędzia AI.

Przepisy nie ograniczają się do jednego narzędzia, ale w uzasadnieniu projektu wprost przywołano Groka, funkcję edycji zdjęć wbudowaną w platformę X. To ona wywołała falę krytyki na przełomie grudnia i stycznia, gdy okazało się, na jaką skalę może być wykorzystywana do tworzenia nieautoryzowanych, seksualizowanych wizerunków.

Skala problemu według badaczy

Brytyjska organizacja Center for Countering Digital Hate przeanalizowała ruch na platformie X po tym, jak 29 grudnia Elon Musk ogłosił funkcję pozwalającą użytkownikom edytować cudze zdjęcia jednym kliknięciem za pomocą Groka. W ciągu 11 dni, do 8 stycznia, narzędzie miało wygenerować około 3 milionów fotorealistycznych zdjęć o charakterze seksualnym, co odpowiada tempu około 190 obrazów na minutę.

Wśród nich badacze oszacowali na około 23 tysiące liczbę zdjęć przedstawiających dzieci w sposób seksualizowany, czyli statystycznie jedno nowe zdjęcie co 41 sekund. xAI ograniczyło funkcję do użytkowników płatnych 9 stycznia, a 14 stycznia dodało dodatkowe zabezpieczenia techniczne blokujące rozbieranie osób na zdjęciach, jednak dopiero po fali krytyki.

Dlaczego Norwegia nie czeka na Brukselę

Unia Europejska pracuje równolegle nad podobnymi ograniczeniami w ramach nowelizacji AI Act, forsowanej między innymi przez Francję i Hiszpanię po aferze z Grokiem. Ambasadorowie państw członkowskich zaakceptowali projekt zakazujący systemów AI generujących treści seksualne i intymne bez zgody osób przedstawionych oraz materiały przedstawiające wykorzystywanie seksualne dzieci, ale proces legislacyjny w Brukseli może potrwać jeszcze lata.

Norwegia, mimo że nie jest członkiem UE, zwykle przejmuje unijne regulacje cyfrowe z opóźnieniem w ramach Europejskiego Obszaru Gospodarczego. Tym razem oslo zdecydowało się wyprzedzić Brukselę własnym prawem krajowym, argumentując to tempem rozwoju problemu.

Unia Europejska pracuje nad regulacjami AI w ramach Digital Services Act i AI Act, ale wdrożenie może potrwać lata. Potrzebujemy jasnych krajowych przepisów już teraz - Mirell Hoeyer-Berntsen, norweska parlamentarzystka, autorka projektu ustawy

Ponadpartyjne poparcie

Za ustawą zagłosowały zarówno rządząca centrolewicowa Partia Pracy, jak i opozycyjni konserwatyści, chadecy, Zieloni oraz prawicowa Partia Postępu. Tak szerokie, ponadpartyjne poparcie w norweskim parlamencie należy do rzadkości i pokazuje, że temat seksualnych deepfake'ów przestał być sporem ideologicznym, a stał się kwestią ochrony ofiar niezależnie od poglądów politycznych.

Ofiarami tego typu treści padają zarówno osoby publiczne, jak norwescy politycy czy zagraniczne polityczki, tak i zwykli obywatele, których zdjęcia z mediów społecznościowych trafiają do generatorów AI bez ich wiedzy. To właśnie skala nadużyć wobec anonimowych osób prywatnych, trudna do zmierzenia, ale odczuwalna w skargach do organów ochrony danych, była głównym argumentem za szybką interwencją ustawową.

Co to oznacza dla innych krajów

Norweskie prawo staje się precedensem dla innych państw europejskich, które czekają na finalizację unijnego AI Act w tym obszarze. Podobne krajowe inicjatywy rozważane są już w kilku państwach UE, gdzie afera z Grokiem wywołała podobną presję społeczną i polityczną na szybkie działanie, zanim skończy się żmudny proces negocjacji na poziomie wspólnoty.

Dla firm rozwijających generatywne narzędzia AI to sygnał, że regulacje dotyczące treści seksualnych i deepfake'ów będą się mnożyć na poziomie krajowym szybciej niż na poziomie unijnym, co oznacza rosnące ryzyko prawne przy międzynarodowej dystrybucji funkcji edycji zdjęć bez odpowiednich zabezpieczeń.