AI Act nakłada od 2 sierpnia obowiązek ujawniania chatbotów i deepfake'ów

Od 2 sierpnia 2026 roku w Unii Europejskiej obowiązują nowe przepisy unijnego rozporządzenia o sztucznej inteligencji, które nakładają na firmy konkretny obowiązek: użytkownik musi wiedzieć, że rozmawia z botem, a nie z człowiekiem, a materiał wygenerowany lub zmanipulowany przez AI musi zostać wyraźnie oznaczony. To kolejny etap wdrażania AI Act, tym razem dotyczący przejrzystości wobec konsumentów.

Co konkretnie się zmienia

Dostawcy chatbotów, voicebotów, awatarów i agentów AI muszą od pierwszego kontaktu jasno poinformować użytkownika, że po drugiej stronie nie ma człowieka. Dotyczy to sytuacji, w których nie jest to oczywiste dla przeciętnie zorientowanej osoby - bot z ludzkim imieniem, zdjęciem profilowym i naturalnie brzmiącym głosem musi być wyraźnie oznaczony jako system automatyczny.

Drugi filar przepisów dotyczy treści syntetycznych. Materiały wygenerowane lub zmanipulowane przez AI, które mogłyby zostać wzięte za autentyczne, muszą zostać oznaczone w sposób widoczny lub słyszalny, a dostawcy mają dodatkowo umieszczać w plikach znaczniki maszynowo czytelne, takie jak metadane czy znaki wodne.

Deepfake i treści publiczne

Szczególną kategorią są tak zwane deepfake'i, czyli realistyczne materiały przedstawiające osoby, miejsca lub wydarzenia, które odbiorca mógłby uznać za prawdziwe. Etykieta informująca o sztucznym pochodzeniu musi pojawić się najpóźniej przy pierwszej ekspozycji materiału.

Osobno potraktowano teksty dotyczące spraw publicznych, na przykład polityki, wyborów, zdrowia czy bezpieczeństwa. Jeśli taki tekst przeszedł rzeczywistą kontrolę redakcyjną dokonaną przez odpowiedzialną za treść osobę, oznaczenie nie jest wymagane.

Obowiązek dotyczy rzeczywistej, dwustronnej i bezpośredniej komunikacji - Komisja Europejska

Wyjątki od reguły

Prawo przewiduje kilka furtek. Treści artystyczne, satyryczne i fikcyjne wymagają oznaczenia jedynie w sposób, który nie przeszkadza w odbiorze dzieła, a więc nie musi to być duży, rzucający się w oczy napis na całym ekranie. Wyłączone są też sytuacje oczywiste, w których kontekst nie pozostawia wątpliwości co do sztucznego pochodzenia materiału.

Zdaniem dr Pauli Skrzypeckiej, cytowanej przez rp.pl, system powinien informować użytkownika od początku rozmowy, że jest sztuczną inteligencją, bez projektowania interakcji w sposób sugerujący kontakt z człowiekiem.

System powinien informować użytkownika od początku, że jest sztuczną inteligencją - dr Paula Skrzypecka

Kary i harmonogram

Za naruszenie obowiązków przejrzystości grożą kary do 15 milionów euro lub 3 procent światowego rocznego obrotu firmy, w zależności od tego, która kwota jest wyższa. Za praktyki uznane za zakazane, na przykład manipulacyjne wykorzystanie AI, stawka rośnie do 35 milionów euro lub 7 procent obrotu.

Firmy, które wprowadziły swoje systemy generatywne na rynek przed 2 sierpnia 2026 roku, dostały dodatkowy czas do 2 grudnia 2026 roku na wdrożenie mechanizmów oznaczania. Przepisy dla systemów wysokiego ryzyka, objętych załącznikiem III rozporządzenia, przesunięto z kolei na 2 grudnia 2027 roku, a dla systemów wbudowanych w inne produkty na 2 sierpnia 2028 roku. Nowy zakaz generowania materiałów seksualnych bez zgody osoby przedstawionej zacznie obowiązywać od 2 grudnia 2026 roku.

Co to oznacza dla polskich firm

Dla firm działających w Polsce oznacza to konieczność przeglądu wszystkich botów obsługi klienta, wirtualnych doradców i narzędzi generujących grafiki czy wideo pod kątem etykietowania. W praktyce trzeba będzie dodać krótką informację przy starcie rozmowy z chatbotem oraz widoczny znacznik przy grafikach, filmach czy nagraniach audio tworzonych lub przetwarzanych przez AI.

Nadzór nad przestrzeganiem przepisów w Polsce ma sprawować Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, choć - jak wynika z wcześniejszych doniesień - krajowa struktura nadzorcza wciąż nie jest w pełni ukształtowana, co rodzi pytania o realne tempo egzekwowania nowych obowiązków w pierwszych miesiącach ich obowiązywania.