FTC ostrzega: trenowanie chatbotów AI pod kątem ideologii może łamać prawo

Federalna Komisja Handlu Stanów Zjednoczonych (FTC) postawiła twardą tezę: firmy AI, które trenują swoje chatboty tak, by unikały odpowiedzi niewygodnych politycznie albo faworyzowały określony punkt widzenia, mogą łamać federalne prawo konsumenckie. To pierwsza tak bezpośrednia próba amerykańskiego regulatora, by wpisać kwestię stronniczości modeli językowych w istniejące ramy prawne ochrony konsumentów, zamiast czekać na nową ustawę.

Przewodniczący FTC Andrew N. Ferguson przedstawił propozycję jako odpowiedź na rosnącą presję na twórców modeli, by dostosowywali odpowiedzi chatbotów do wymogów poszczególnych stanów, zamiast trzymać się jednego, spójnego standardu prawdziwości wyników.

FTC chce usłyszeć od firm i konsumentów o ich doświadczeniach i obawach dotyczących wykorzystywania systemów AI do celów ideologicznych - Andrew N. Ferguson, przewodniczący FTC

Na czym polega zarzut

Sedno propozycji FTC sprowadza się do testu, który agencja stosuje od dekad przy ocenie praktyk konsumenckich: czy dane działanie firmy może wprowadzić w błąd rozsądnego konsumenta w sposób istotny dla jego decyzji. FTC argumentuje, że skoro użytkownicy chatbotów zakładają, iż otrzymują prawdziwe i dokładne odpowiedzi, to celowe trenowanie modelu tak, by ukrywał lub zniekształcał fakty zgodnie z określonym programem ideologicznym, spełnia definicję praktyki wprowadzającej w błąd.

Konsumenci mają uzasadnione oczekiwanie, że systemy AI dążą do prawdziwych i dokładnych wyników - komunikat FTC

Agencja zastrzega przy tym wyraźną granicę: halucynacje AI, czyli błędy wynikające z ograniczeń technologicznych i braku wystarczających zasobów, same w sobie nie naruszają sekcji 5. Naruszeniem miałoby być dopiero świadome, zamierzone kształtowanie wyników pod kątem konkretnego celu ideologicznego, a nie zwykła omylność modelu.

Kolorado na celowniku

Najbardziej konkretnym elementem propozycji jest bezpośrednie wskazanie na zrewidowaną w 2025 roku koloradzką ustawę o sztucznej inteligencji, która nakłada na firmy obowiązki ujawniania informacji przy zastosowaniach wysokiego ryzyka w edukacji, ochronie zdrowia i zatrudnieniu. Zdaniem federalnych urzędników tego typu przepisy stanowe mogą w praktyce zmuszać deweloperów do wprowadzania do modeli zniekształceń zgodnych z celami politycznymi konkretnego stanu, co stawiałoby stanowe prawo w konflikcie z federalnym zakazem nieuczciwych praktyk.

To nie pierwsza interwencja administracji Trumpa w tym kierunku. Grudniowe rozporządzenie wykonawcze nakazało FTC zbadać, jak prawo federalne odnosi się do modeli AI i konfliktów z regulacjami stanowymi, a kolejne, styczniowe rozporządzenie było wymierzone bezpośrednio w zjawisko określane jako Woke AI. Propozycja z lipca spina te dwa wątki w jeden dokument polityczny, otwarty teraz na uwagi publiczne.

Reakcje branży

OpenAI, Anthropic i Google na razie odmówiły komentarza wobec propozycji, co samo w sobie jest znaczące, biorąc pod uwagę, jak mocno firmy te zwykle reagują na inicjatywy regulacyjne dotyczące ich modeli. Ostrożność może wynikać z niejasności, jak w praktyce miałby wyglądać dowód celowego, ideologicznego kształtowania wyników, w odróżnieniu od zwykłego dostrajania modelu pod kątem bezpieczeństwa czy zgodności z prawem w różnych jurysdykcjach.

Dla firm technologicznych i prawników zajmujących się zgodnością to sygnał, że dostrajanie modeli pod kątem lokalnych wymogów regulacyjnych, szczególnie w obszarach takich jak moderacja treści czy odpowiedzi na tematy sporne, będzie teraz badane pod kątem dwóch, potencjalnie sprzecznych zestawów przepisów: stanowego i federalnego. To dokłada kolejną warstwę niepewności prawnej do i tak już skomplikowanego krajobrazu regulacji AI w Stanach Zjednoczonych.

Dla polskich firm korzystających z amerykańskich modeli językowych bezpośredni wpływ propozycji jest ograniczony, bo dotyczy ona relacji między prawem stanowym a federalnym w USA. Pośrednio jednak spór może wpłynąć na to, jak dostawcy modeli globalnie podchodzą do konfiguracji swoich systemów pod kątem różnych rynków, co w praktyce dotyczy też europejskich użytkowników korzystających z tych samych modeli co odbiorcy amerykańscy.

Do 31 lipca zainteresowane strony, od firm AI po organizacje konsumenckie, mogą składać uwagi do proponowanego stanowiska. Dopiero po tym terminie FTC zdecyduje, czy i w jakiej formie przyjąć dokument jako oficjalne wytyczne dla branży.

Źródła: SAN (san.com), PYMNTS (pymnts.com), Consumer Financial Services Law Monitor (consumerfinancialserviceslawmonitor.com)