Chiny zmuszają Doubao i Qwen do wyłączenia AI-towarzyszy przed nowym prawem

ByteDance i Alibaba jednocześnie ogłosiły wygaszenie funkcji tworzenia spersonalizowanych agentów AI w swoich najpopularniejszych chatbotach, odpowiednio Doubao i Qwen. Decyzja zbiega się co do dnia z wejściem w życie nowych chińskich przepisów regulujących antropomorficzne usługi AI i pokazuje, jak szybko Pekin potrafi wymusić zmiany na największych firmach technologicznych kraju.

W nocy z piątku na sobotę Doubao wysłał użytkownikom powiadomienie, że funkcja agentów przestanie działać z powodu dostosowania funkcji produktu. Sobotni komunikat Qwen brzmiał niemal identycznie, platforma poinformowała, że człekopodobne interaktywne agenty i funkcje tworzenia agentów przez użytkowników zostaną wyłączone 10 lipca, a szersze funkcje i usługi agentowe Qwen przestaną działać 15 lipca.

Nowe przepisy Pekinu

Powodem obu decyzji są Tymczasowe środki w sprawie administrowania antropomorficznymi usługami interakcji AI, które wchodzą w życie 15 lipca. Przepisy obejmują usługi AI, które symulują ludzkie cechy osobowości, wzorce myślenia i style komunikacji, aby zapewnić trwałą interakcję emocjonalną z użytkownikiem.

Chińscy regulatorzy tłumaczą nowe zasady obawami o rozprzestrzenianie się skrajnych treści, naruszenia prywatności, szkody dla zdrowia psychicznego i fizycznego użytkowników oraz ryzyko uzależnienia od rozmów z botami udającymi ludzi. Prawo nie obejmuje botów obsługi klienta, systemów pytań i odpowiedzi, asystentów pracy ani narzędzi edukacyjnych i naukowych, o ile nie prowadzą one długotrwałej interakcji emocjonalnej.

Reakcja firm

Obie firmy ograniczyły komunikaty do technicznych sformułowań o dostosowaniu funkcji produktu, unikając bezpośredniego powiązania decyzji z nadchodzącym prawem. Doubao i Qwen zalecają użytkownikom wcześniejsze zabezpieczenie ważnych treści poprzez zrzuty ekranu lub eksport tekstu, zanim konfiguracje agentów i historie rozmów znikną bezpowrotnie.

W przypadku Doubao użytkownicy będą jeszcze mogli przeglądać ustawienia stworzonych przez siebie agentów i historię czatów w okresie przejściowym, ale po 15 października dane przestaną być dostępne i nie będzie można ich odzyskać. Qwen działa na podobnej zasadzie, tyle że proces rozłożono na dwa etapy w odstępie pięciu dni.

Szerszy kontekst

To kolejny krok w budowanej od miesięcy przez Pekin architekturze nadzoru nad generatywną AI, obok wcześniejszych wymogów znakowania treści syntetycznych i rejestrowania modeli przed publicznym udostępnieniem. Chiny regulują sektor AI szybciej i bardziej bezpośrednio niż Unia Europejska czy Stany Zjednoczone, gdzie dyskusje o towarzyszach AI i ich wpływie na zdrowie psychiczne dopiero nabierają tempa po serii głośnych spraw sądowych.

Rynek person-chatbotów w Chinach urósł w ostatnich dwóch latach lawinowo, napędzany aplikacjami do tworzenia własnych postaci, z którymi użytkownicy prowadzą wielogodzinne, emocjonalnie zaangażowane rozmowy. To właśnie ta kategoria, a nie ogólne chatboty biurowe czy asystenci kodujący, stała się celem nowych przepisów.

Dla Doubao, jednego z najpopularniejszych chatbotów w Chinach, i Qwen, flagowego produktu konsumenckiego Alibaba rozwijanego równolegle z otwartoźródłową rodziną modeli o tej samej nazwie, wygaszenie funkcji agentowych oznacza utratę części zaangażowania użytkowników tuż przed okresem wakacyjnym, gdy ruch w aplikacjach rozrywkowych rośnie.

Firmy nie zapowiedziały, czy i kiedy funkcje agentowe wrócą w zmienionej, zgodnej z prawem formie. Obserwatorzy rynku spodziewają się, że kolejne chińskie platformy z podobnymi funkcjami towarzyszy AI pójdą w ślady Doubao i Qwen jeszcze przed 15 lipca, by uniknąć kar za niedostosowanie się do nowych przepisów.

Dla europejskich obserwatorów rynku AI to sygnał, że regulacje person-chatbotów i towarzyszy AI mogą szybko stać się osobną kategorią prawną, odrębną od ogólnych przepisów o systemach AI wysokiego ryzyka. Unijny AI Act nie wyodrębnia dziś wprost kategorii antropomorficznej interakcji, ale rosnąca liczba doniesień o uzależnieniu użytkowników od AI-towarzyszy może przyspieszyć podobne dyskusje w Brukseli.

Źródła: South China Morning Post (scmp.com), TechNode (technode.com).