Chiny każą ByteDance i Alibaba wyłączyć spersonalizowanych towarzyszy AI

Od 15 lipca chińscy giganci technologiczni ByteDance i Alibaba muszą wyłączyć funkcje spersonalizowanych, humanopodobnych agentów AI w swoich najpopularniejszych chatbotach, Doubao i Qwen. Powodem jest nowa ustawa, pierwsza na świecie regulująca wprost usługi AI naśladujące ludzką osobowość i budujące długotrwałą więź emocjonalną z użytkownikiem.

Nowe przepisy, w pełnej nazwie Interim Measures for the Administration of Artificial Intelligence Anthropomorphic Interaction Services, zakazują usług AI, które "symulują ludzkie cechy osobowości, wzorce myślenia i style komunikacji, by zapewnić długotrwałą interakcję emocjonalną". Prawo zostało wspólnie przygotowane przez Cyberspace Administration of China, National Development and Reform Commission, Ministerstwo Przemysłu i Technologii Informacyjnych, Ministerstwo Bezpieczeństwa Publicznego oraz State Administration for Market Regulation.

Co konkretnie się zmienia

W praktyce chodzi o funkcje, w których użytkownik mógł stworzyć własnego, spersonalizowanego agenta AI, nadać mu imię, charakter i styl rozmowy, a następnie budować z nim relację trwającą tygodnie lub miesiące, z pamięcią wcześniejszych rozmów i konsekwentną osobowością między sesjami. To właśnie ten mechanizm ciągłej, emocjonalnej więzi budzi obawy chińskich regulatorów, a nie same chatboty jako takie.

Alibaba wyłączyła funkcję niestandardowych agentów w Qwen już 10 lipca, pięć dni przed ostatecznym terminem. ByteDance poszedł podobną drogą z Doubao, ale zdecydował się na pełne wyłączenie dopiero w dniu wejścia przepisów w życie, 15 lipca. W komunikatach obie firmy ograniczyły się do lakonicznych informacji o "dostosowaniu funkcji produktu", bez odniesienia wprost do nowego prawa.

Co dzieje się z danymi użytkowników

Skala zmiany dotyka setek milionów aktywnych użytkowników miesięcznie, którzy korzystali z tych funkcji, część z nich prowadząc ze swoimi spersonalizowanymi agentami wielomiesięczne, codzienne rozmowy. ByteDance zaoferował użytkownikom Doubao okno czasowe do 15 października na wyeksportowanie historii rozmów i danych swoich agentów. Alibaba w przypadku Qwen nie ogłosiła żadnej ścieżki migracji ani eksportu, co oznacza praktyczną utratę dostępu do zgromadzonych interakcji.

Przepisy wprost wymieniają zagrożenia, przed którymi mają chronić: rozprzestrzenianie ekstremistycznych ideologii przez zaufanego, spersonalizowanego bota, wyciek prywatnych danych ujawnianych w intymnych rozmowach, szkody dla zdrowia psychicznego użytkowników oraz uzależnienie od relacji z AI. Regulacja nie obejmuje botów obsługi klienta, asystentów pytań i odpowiedzi ani narzędzi edukacyjnych i naukowych, dopóki nie oferują one przedłużonej interakcji emocjonalnej.

Chiny wyprzedzają Zachód w tym temacie

To pierwsza na świecie ustawa, która wprost i kompleksowo reguluje kategorię AI companion, czyli aplikacji do towarzystwa emocjonalnego opartych na dużych modelach językowych. W Unii Europejskiej AI Act klasyfikuje niektóre systemy manipulujące zachowaniem użytkownika jako praktyki zakazane, ale nie zawiera osobnej, dedykowanej kategorii dla humanopodobnych towarzyszy AI z pamięcią długoterminową, a terminy wdrożenia przepisów dla systemów wysokiego ryzyka zostały w Europie niedawno przesunięte pakietem Omnibus VII.

W Stanach Zjednoczonych temat AI companion pozostaje w większości nieregulowany na poziomie federalnym, mimo rosnącej liczby doniesień o użytkownikach, w tym nastolatkach, rozwijających głęboką zależność emocjonalną od chatbotów. Chińskie przepisy pokazują alternatywny model, w którym państwo prewencyjnie ogranicza całą kategorię produktu, zamiast czekać na konkretne incydenty i reagować post factum.

Dla polskiego rynku technologicznego regulacja ma znaczenie głównie jako precedens i punkt odniesienia w europejskiej debacie nad AI Act. Polskie firmy budujące chatboty czy asystentów raczej nie oferują funkcji analogicznych do chińskich AI companion na taką skalę, ale rosnąca popularność aplikacji do towarzystwa emocjonalnego z AI, dostępnych globalnie także dla polskich użytkowników, sprawia, że pytanie o regulację tej kategorii prędzej czy później pojawi się także w Brukseli.

Źródła: South China Morning Post (scmp.com), Tech Times (techtimes.com), Global Times (globaltimes.cn)