Nadella oskarża Anthropic o hipokryzję w sprawie destylacji modeli AI

Satya Nadella wytknął liderom branży AI podwójne standardy. W niedzielnym wpisie na platformie X szef Microsoftu napisał, że firmy takie jak Anthropic domagają się prawa do trenowania swoich modeli na publicznie dostępnych danych, jednocześnie nakładając restrykcyjne warunki na destylację, czyli uczenie słabszych modeli na podstawie odpowiedzi tych mocniejszych.

Nadella nie wskazał żadnej firmy po imieniu, ale kontekst nie pozostawia wątpliwości. Kilka tygodni wcześniej dyrektor generalny Anthropic Dario Amodei alarmował, że chińscy producenci modeli okradają jego firmę, wykorzystując Claude'a do trenowania własnych systemów znacznie taniej i szybciej niż wymagałby tego samodzielny rozwój.

Spór o destylację

Destylacja modeli to technika, w której słabszy, tańszy model uczy się naśladować odpowiedzi silniejszego, drogiego modelu, korzystając z jego wyjść jako danych treningowych. Dla firm takich jak Anthropic czy OpenAI, które inwestują miliardy dolarów w trenowanie flagowych modeli, jest to furtka pozwalająca konkurencji skopiować efekty tej pracy za ułamek kosztów.

W czerwcu Anthropic napisał do amerykańskich senatorów Tima Scotta i Elizabeth Warren, że powiązane z Alibabą podmioty przeprowadziły wobec jego modeli kampanię polegającą na 28,8 miliona wymian z wykorzystaniem tysięcy fałszywych kont. Firma nazwała to 'największym znanym atakiem destylacyjnym', jaki dotąd odnotowała, i podkreśliła, że pozwoliło to skopiować zdolności Claude'a w ułamku czasu i kosztu, jakiego wymagałby samodzielny rozwój takiego modelu.

O ile wielka innowacja, jaka płynie z prawa producentów modeli do trenowania na publicznych danych, jest potrzebna, o tyle uważam za ironiczne, że status quo polega na tym, iż ci sami producenci nakładają potem restrykcyjne warunki na destylację - Satya Nadella, CEO Microsoftu

Kto na tym korzysta

Argumentacja Nadelli ma wymiar strategiczny. Microsoft, jako dostawca chmury Azure i partner OpenAI, ale też coraz częściej twórca własnych modeli, zyskuje na osłabieniu pozycji negocjacyjnej rywali w rodzaju Anthropic. Nadella przekonuje, że firmy polegające wyłącznie na zewnętrznych dostawcach modeli w praktyce oddają im swoje dane, płacąc jednocześnie za dostęp do nich.

W tym samym wpisie Nadella zalecił przedsiębiorstwom budowę niezależnej infrastruktury AI, tworzenie własnych ram ewaluacyjnych, wdrażanie systemów ciągłego uczenia wewnętrznego oraz utrzymywanie ścisłych granic ochrony danych instytucjonalnych. To rada zbieżna z komercyjnym interesem Microsoftu, który chce, by klienci mniej ufali zamkniętym modelom zewnętrznych laboratoriów.

Nie pierwszy głos w sporze

Komentarz Nadelli dołącza do szerszej debaty, w którą wcześniej włączył się Elon Musk. W lutym napisał na X, że Anthropic 'jest winny kradzieży danych treningowych na masową skalę', nawiązując do wcześniejszych pozwów i ugód, w których firmy AI płaciły odszkodowania za wykorzystywanie chronionych prawem autorskim treści bez zgody.

Anthropic nie skomentował od razu wypowiedzi Nadelli, gdy zapytał o to Business Insider. Firma konsekwentnie broni stanowiska, że jej modele są okradane przez konkurencję szybciej, niż sama zdołała je rozwinąć, i że to właśnie uzasadnia restrykcyjne warunki licencyjne wobec destylacji przez rywali.

Znaczenie dla rynku

Spór pokazuje, jak kruche są zasady gry wokół danych treningowych w branży AI. Firmy domagają się swobody korzystania z cudzej twórczości pod hasłem fair use, ale traktują wyniki własnych modeli jako chronioną własność, gdy korzysta z nich konkurencja. Dla klientów korporacyjnych, w tym polskich firm wdrażających modele językowe w swoich produktach, oznacza to rosnącą niepewność co do tego, na jakich warunkach będą mogły w przyszłości korzystać z wyników pracy dostawców takich jak Anthropic, OpenAI czy Google.

Praktyczna konsekwencja może dotyczyć też kosztów. Jeśli spory o destylację będą się zaostrzać, dostawcy modeli mogą jeszcze mocniej ograniczać dostęp do surowych odpowiedzi swoich systemów przez API, utrudniając trenowanie tańszych alternatyw i pośrednio utrzymując wysokie ceny dostępu do najlepszych modeli.

Źródła: Business Insider (businessinsider.com) za pośrednictwem AOL (aol.com), HyperAI (hyper.ai), CNBC (cnbc.com)