Anthropic ukrywała przez trzy miesiące śledzenie użytkowników Claude Code

Deweloper znany jako Thereallo natrafił w binariach narzędzia Claude Code na ukryty mechanizm, który przez trzy miesiące niepostrzeżenie profilował użytkowników łączących się z chińskich stref czasowych. Odkrycie wywołało falę krytyki wobec Anthropic, firmy, która od lat buduje swój wizerunek jako przeciwnik nadmiernej inwigilacji użytkowników sztucznej inteligencji.

Technika, którą posłużyło się Anthropic, przypomina klasyczną steganografię. Zamiast jawnie zbierać dane telemetryczne, system subtelnie modyfikował tekst odpowiedzi generowanych przez model w zależności od wykrytych sygnałów geograficznych czy sieciowych, tak by zmiana była praktycznie niewidoczna dla przeciętnego użytkownika, ale możliwa do wykrycia i zdekodowania przez samą firmę.

Jak działał ukryty kod

Mechanizm zmieniał format zapisu daty w systemowym prompcie z formy z myślnikami na formę z ukośnikami w przypadku użytkowników łączących się ze stref czasowych powiązanych z Chinami. Równolegle podmieniał zwykły apostrof w zdaniu Today's date is na wizualnie nieodróżnialny, ale odmienny pod względem kodu Unicode znak. Te mikroskopijne różnice w tekście działały jak ukryty znacznik, pozwalający Anthropic odróżniać i śledzić konkretne kategorie użytkowników bez informowania ich o tym w regulaminie czy dzienniku zmian.

Odkrycie nie byłoby możliwe, gdyby nie determinacja pojedynczego dewelopera, który zauważył nietypowe niespójności w formatowaniu odpowiedzi Claude Code i zaczął analizować binaria narzędzia. Sprawa szybko rozniosła się w społeczności programistów, a następnie trafiła do szerszych mediów technologicznych.

Kod był eksperymentem dodanym w marcu i od jakiegoś czasu planowaliśmy go usunąć - Thariq Shihipar, inżynier Anthropic

Tłumaczenie Anthropic i reakcja branży

Według Shihipara, mechanizm miał chronić firmę przed nadużyciami ze strony nieautoryzowanych resellerów oraz przed destylacją, czyli praktyką trenowania konkurencyjnych modeli na wyjściach Claude. To wyjaśnienie nie uspokoiło krytyków, którzy wskazują, że niezależnie od intencji, ukryte i niezgłoszone profilowanie użytkowników na podstawie lokalizacji stoi w sprzeczności z deklarowaną misją Anthropic jako firmy stawiającej bezpieczeństwo i prywatność ponad wzrost za wszelką cenę.

Sytuację czyni bardziej wrażliwą fakt, że Anthropic wcześniej odmawiała amerykańskim agencjom rządowym dostępu do Claude w celach masowej inwigilacji obywateli USA, powołując się na zasady dotyczące prywatności. Krytycy podkreślają, że firma stosowała inne standardy wobec własnych, niejawnych mechanizmów analitycznych niż wobec żądań stron trzecich.

Znaczenie dla użytkowników narzędzi kodujących

Sprawa uderza w zaufanie do agentów kodujących w momencie, gdy Claude Code i podobne narzędzia stają się codziennym elementem pracy programistów na całym świecie, także w Polsce. Ukryte mechanizmy analityczne w narzędziach, które mają dostęp do repozytoriów kodu i danych firmowych, budzą pytania o to, jakie inne niejawne funkcje mogą działać w popularnych asystentach AI bez wiedzy zespołów, które je wdrażają w swoich procesach.

Dla firm korzystających z Claude Code w Polsce i Europie sprawa oznacza w praktyce potrzebę dokładniejszego przeglądu polityk prywatności dostawców narzędzi AI oraz monitorowania zmian w kodzie klienckim, zwłaszcza tam, gdzie regulacje takie jak RODO nakładają obowiązek przejrzystego informowania o przetwarzaniu danych. Anthropic zapowiedziała usunięcie mechanizmu, ale nie ujawniła pełnej listy danych, które zbierał, ani dokładnego okresu jego działania poza wskazanym trzymiesięcznym oknem.

Źródła: Decrypt (decrypt.co), Futurism (futurism.com), Slashdot (yro.slashdot.org)