Londyn wyrasta na globalne centrum bezpieczeństwa AI

Podczas gdy Stany Zjednoczone i Chiny ścigają się o coraz większe modele, Wielka Brytania stawia na inną kartę: London staje się miejscem, gdzie firmy AI testują swoje systemy pod kątem ryzyka, zanim trafią one do reszty świata. Coraz gęstszy klaster w dzielnicy King's Cross i praca rządowego AI Security Institute (AISI) sprawiają, że to właśnie stolica Wielkiej Brytanii, a nie Dolina Krzemowa, staje się punktem odniesienia dla bezpieczeństwa sztucznej inteligencji.

Klaster w King's Cross

King's Cross, dawniej kojarzony głównie z dworcem kolejowym, zamienił się w ostatnich latach w gęsty klaster firm zajmujących się sztuczną inteligencją. Obok siebie działają tam już Google DeepMind, Isomorphic Labs, Synthesia i Wayve, a teraz dołączają do nich europejskie biura Anthropic i OpenAI. W promieniu kilku przecznic mieszczą się też centrale AstraZeneca i GSK, co ułatwia współpracę przy zastosowaniach AI w medycynie.

Bliskość University College London, gdzie studiował szef DeepMind Demis Hassabis, oraz Imperial College i Alan Turing Institute daje firmom dostęp do świeżych absolwentów i naukowców bez konieczności przenoszenia ich z USA. Google inwestuje w tej samej dzielnicy 3 miliardy funtów w budowę 330-metrowego biurowca, który ma zostać otwarty pod koniec 2026 roku.

Dlaczego Anthropic stawia na Londyn

Decyzja Anthropic o poczwórnym zwiększeniu londyńskiego zespołu nie jest wyłącznie kwestią bliskości talentów. Firma deklaruje, że chce pogłębić współpracę z AI Security Institute, który jako jeden z pierwszych na świecie systematycznie testuje modele pod kątem zagrożeń, zanim trafią one do powszechnego użytku. Google DeepMind, OpenAI i Microsoft również przekazują swoje modele do niezależnych ocen AISI.

Europe's largest businesses and fastest-growing startups are choosing Claude, and we're scaling to match - Pip White, szefowa Anthropic na region EMEA North

Wcześniejszy spór Anthropic z Pentagonem o odmowę wykorzystania jej modeli do masowej inwigilacji i autonomicznych systemów uzbrojenia zwrócił dodatkowo uwagę brytyjskich władz na firmę jako partnera bardziej otwartego na niezależny nadzór niż część konkurencji w USA.

Co pokazała ocena Claude Mythos Preview

Najświeższym dowodem znaczenia londyńskiego ośrodka jest publiczna ocena modelu Claude Mythos Preview, ogłoszonego przez Anthropic 7 kwietnia. AISI zbudował symulację ataku na sieć korporacyjną złożoną z 32 kroków, nazwaną wewnętrznie The Last Ones. Model średnio kończył 22 z 32 kroków, podczas gdy najlepszy wcześniej testowany model, Claude Opus 4.6, dochodził średnio do 16.

Multi-stage attacks on vulnerable networks and discover and exploit vulnerabilities autonomously - tasks that would take human professionals days of work - z oceny AI Security Institute

Instytut zaznacza, że model nie poradził sobie z częścią symulacji dotyczącą technologii operacyjnych określaną jako Cooling Tower, co pokazuje, że autonomiczne zdolności ofensywne AI wciąż mają swoje granice, choć te granice przesuwają się szybko z każdą kolejną generacją modeli.

Sieć instytutów bezpieczeństwa AI

AISI nie działa w izolacji. Przywódcy międzynarodowi porozumieli się co do utworzenia sieci instytutów bezpieczeństwa AI obejmującej Wielką Brytanię, Stany Zjednoczone, Japonię, Francję, Niemcy, Włochy, Singapur, Koreę Południową, Australię, Kanadę oraz Unię Europejską. Model wypracowany w Londynie, oparty na niezależnych testach przed premierą i po niej, staje się w ten sposób punktem odniesienia dla regulatorów na całym świecie.

Dla polskiego czytelnika oznacza to, że standardy bezpieczeństwa modeli używanych choćby przez polskie firmy czy administrację w coraz większym stopniu kształtują się właśnie w Londynie, a nie tylko w Brukseli czy Waszyngtonie. Wnioski z ocen takich jak ta dotycząca Claude Mythos Preview trafiają później do wytycznych, na których opierają się także unijne wymogi wobec dostawców modeli wysokiego ryzyka.

Rosnąca koncentracja laboratoriów AI i niezależnych instytucji nadzorczych w jednym miejscu rodzi też pytania o to, kto skorzysta finansowo na tym wzroście. Z późniejszych rund finansowania spółek takich jak Isomorphic Labs, które pozyskało 1,57 miliarda funtów, zaledwie około 10 procent kapitału pochodziło od inwestorów brytyjskich - większość napływa z USA i funduszy globalnych.