Anthropic buduje system prognostycznej inwigilacji aktywistów anty-AI

Firma Anthropic, która publicznie kreuje się na odpowiedzialną alternatywę dla OpenAI, buduje rozbudowany system inwigilacji wymierzony w aktywistów krytykujących rozwój sztucznej inteligencji. Śledztwo dziennikarskie The American Prospect opisuje, jak spółka namierza uczestników protestów, przewiduje ich działania z wyprzedzeniem i zgłasza osoby uznane za zagrożenie policji, zanim dojdzie do jakiegokolwiek przestępstwa.

Podstawą śledztwa jest nagranie podcastu, w którym Keon Ellison, menedżer Globalnego Centrum Operacji Bezpieczeństwa Anthropic, opisał mechanizm współpracy z Samdesk. Według jego relacji firma otrzymała sygnał wywiadowczy o planowanym proteście podczas podróży jednego z kierowników do dużego miasta, a analitycy Samdesk poinformowali zespół bezpieczeństwa o zmianie godziny demonstracji na godzinę przed jej faktycznym przesunięciem.

Jak działa system

Dzięki tym danym Anthropic mógł zaplanować alternatywną trasę przejazdu i skierować kierownika do wejścia serwisowego hotelu, omijając miejsce zgromadzenia. W rozmowie uczestniczył też Zach Melvin, menedżer ds. operacji bezpieczeństwa w firmie, oraz James Neufeld, dyrektor generalny Samdesk.

Transformujemy operacje z reaktywnego zbierania informacji w proaktywne, predykcyjne i prewencyjne zarządzanie zagrożeniami - Zach Melvin, Security Operations Manager, Anthropic

Reporterzy The American Prospect ustalili, że opisany mechanizm to element szerszej strategii, którą sama firma nazywa "procesem osoby zainteresowania" (person-of-interest process). W oświadczeniu przekazanym w lipcu dziennikowi The Wall Street Journal Anthropic przyznało wprost, że śledzi niepokojące zachowania w czasie, by wyłapywać wzorce eskalacji, zanim dojdzie do incydentu.

Sprawa mężczyzny z AR-15

Najbardziej opisywanym przypadkiem z ostatnich tygodni jest sprawa mieszkańca San Francisco, który w rozmowie z chatbotem Claude napisał, że kupił karabin AR-15 i ma Dario Amodei "na muszce", a także że planuje zabić wszystkich pracowników firmy. Anthropic zgłosiło sprawę miejscowej policji, informując funkcjonariuszy, że użytkownik "zamierzał zabić wszystkich w Anthropic" i kupił broń z zamiarem zabójstwa pracowników.

Zgodnie z ustaleniami dziennikarzy firma nie udostępniła jednak policji pełnych transkrypcji rozmowy, powołując się na wewnętrzną politykę prywatności, co uniemożliwiło funkcjonariuszom samodzielną ocenę powagi zagrożenia na podstawie oryginalnego tekstu. Sam użytkownik, którego tożsamości nie ujawniono, ponieważ nie postawiono mu zarzutów, powiedział lokalnemu medium, że jego słowa były żartem.

Sprzeczność z deklaracjami firmy

Reporterzy wskazują na sprzeczność między praktyką inwigilacji a publicznym wizerunkiem Anthropic jako laboratorium AI dbającego o prawa człowieka i bezpieczeństwo społeczne. Napięcie pogłębia fakt, że na początku roku firma spierała się z Pentagonem, odmawiając zgody na wykorzystanie swoich narzędzi do masowej inwigilacji krajowej przez wojsko - teraz sama buduje aparat monitorowania obywateli krytykujących jej działalność.

Ogłoszenie o pracę na stanowisko specjalisty ds. wywiadu korporacyjnego, opublikowane przez Anthropic, wprost opisuje zakres obowiązków: identyfikowanie, ocenianie, śledzenie i badanie globalnych zagrożeń, w tym niestabilności geopolitycznej, terroryzmu, przestępczości, aktywizmu oraz działań państw wymierzonych w sektor AI. Wynagrodzenie na tym stanowisku ma wynosić od 180 do 230 tysięcy dolarów rocznie, a zakres zadań obejmuje między innymi pogłębione badania i zbieranie danych wywiadu z otwartych źródeł (OSINT).

Kontekst branżowy

Śledztwo pojawia się w momencie napięć wokół warunków pracy w samej branży bezpieczeństwa AI - ochroniarze zatrudnieni w OpenAI i Anthropic autoryzowali niedawno strajk w sporze o stawki wynoszące 22 dolary za godzinę. Anthropic odmówiło komentarza w sprawie ustaleń The American Prospect.

Dla polskich firm i instytucji obserwujących rozwój regulacji wokół sztucznej inteligencji sprawa pokazuje, że napięcie między bezpieczeństwem korporacyjnym a prawem do protestu i prywatności komunikacji z chatbotami staje się realnym problemem prawnym, a nie tylko teoretycznym scenariuszem z debat o AI Act. Praktyka zgłaszania użytkowników policji na podstawie treści rozmów z modelem językowym, bez udostępniania pełnych dowodów, rodzi pytania o standardy dowodowe i ochronę danych, które prędzej czy później trafią też pod europejskie regulacje.