Anthropic pokazuje Kongresowi własny projekt ustawy o AI: blokada modelu przy ryzyku śmierci ponad 50 osób lub szkodach powyżej miliarda dolarów

Anthropic przedstawia parlamentarzystom na Kapitolu szkic federalnej ustawy o bezpieczeństwie zaawansowanej sztucznej inteligencji. Dokument wyciekł do mediów, a firma, od dawna postrzegana jako laboratorium promujące bezpieczeństwo, znalazła się w defensywie.

Co zawiera szkic

Według relacji Politico, które powtarza TechCrunch, wydanie modelu mogłoby zostać zablokowane, gdy istnieje "przewidywalne, bezpośrednie ryzyko", że zginie ponad 50 osób lub powstaną szkody majątkowe przekraczające miliard dolarów. Zagrożenie musiałoby wynikać z broni biologicznej, wymknięcia się modelu spod kontroli twórcy albo cyberataku.

Progi przypominają te z kalifornijskiej ustawy SB 53, która w podobny sposób definiuje "ryzyko katastroficzne". Ocenę potencjału modelu przeprowadzaliby niezależni weryfikatorzy zarejestrowani w Departamencie Handlu. Laboratoria AI mogłyby im płacić, o ile wynagrodzenie nie zależy od wyniku oceny.

Rola sądu i Departamentu Handlu

Jeśli weryfikatorzy wykryją bezpośrednie ryzyko katastrofy, mają 72 godziny na powiadomienie Departamentu Handlu. Ten musiałby następnie zwrócić się do sędziego w Waszyngtonie o wstrzymanie wydania modelu.

Projekt wprost zabrania innym agencjom federalnym wstrzymywania dystrybucji modelu z własnej inicjatywy. TechCrunch zwraca uwagę, że nie jest jasne, jak system miałby chronić oceny przed wpływem płatności ze strony laboratoriów.

Krytyka i reakcja firmy

Według Semafor rzecznik Anthropic potwierdził, że szkic jest ustawową wersją ramowych zasad, które firma promuje od miesięcy. Rzecznik w rozmowie z Politico wskazał, że odpowiada on propozycjom z dokumentu Advanced AI Framework, przedstawianego władzom federalnym i stanowym od czerwca.

Po fali krytyki jeden z czołowych lobbystów firmy opublikował wpis o planowanych zmianach. Mają one lepiej oddać szybkie tempo rozwoju AI oraz doprecyzować stanowisko w sprawie wypierania prawa stanowego przez przepisy federalne. Orędownicy bezpieczeństwa AI uważają, że projekt idzie zdecydowanie za mało daleko, niesłusznie wypiera przepisy stanów i godzi się na zbyt duże ryzyko.

Decyzje polityczne muszą ostatecznie zapadać w demokratycznych procesach, z udziałem wybieranych urzędników na czele. Żadna firma, także OpenAI, nie powinna sama pisać reguł dla technologii o tak głębokich skutkach dla gospodarki, społeczeństwa i bezpieczeństwa narodowego. - Chris Lehane, szef ds. globalnych OpenAI (poniedziałkowy wpis, cytowany przez Semafor)

Szerszy kontekst

TechCrunch przypomina, że szef Nvidii Jensen Huang argumentował niedawno, iż branża nie potrzebuje nowych praw, a Demis Hassabis sugerował kilka miesięcy temu, by samorządowy organ nadzorujący AI wzorował się na amerykańskim FINRA. Laboratoria ostrzegają, że ich technologia mogłaby zagrozić cywilizacji, ale w większości opierają się obowiązkowemu nadzorowi państwa.

Dla polskiego czytelnika to sygnał, jak wygląda dyskusja o regulacji AI po drugiej stronie Atlantyku: kluczowe pytania dotyczą progu interwencji, niezależności weryfikatorów i relacji przepisów federalnych do stanowych. Na razie to jedynie szkic, a w źródłach nie ma informacji o sponsorze ustawy ani terminie jej złożenia.