Stanford: USA powinny wydawać nawet 310 miliardów dolarów rocznie na ograniczanie ryzyka AI

Stanford Graduate School of Business opublikował analizę, według której Stany Zjednoczone powinny wydawać na ograniczanie ryzyka związanego ze sztuczną inteligencją co najmniej 310 miliardów dolarów rocznie, a w niektórych scenariuszach nawet ponad 20 procent PKB kraju. Wyliczenia ekonomisty Charlesa Jonesa opierają się na standardowej analizie kosztów i korzyści, jaką ekonomiści stosują od dekad do wycen ochrony zdrowia i życia ludzkiego.

Punktem wyjścia pracy Jonesa jest pytanie, które ekonomiści zadają sobie od dawna w innych kontekstach: ile warto zapłacić, żeby zmniejszyć prawdopodobieństwo katastrofy. Przy wycenach bezpieczeństwa drogowego czy regulacji środowiskowych rządy od lat posługują się konkretną kwotą przypisaną do ludzkiego życia. Jones zastosował tę samą logikę do ryzyka, że rozwój sztucznej inteligencji doprowadzi do wyginięcia lub trwałego, poważnego osłabienia ludzkości.

Skąd bierze się liczba 10 procent

Podstawą szacunków jest ankieta AI Impacts z 2024 roku, w której wzięło udział niemal 2800 badaczy zajmujących się sztuczną inteligencją. Wyniki pokazały, że mediana szacowanego przez nich ryzyka katastrofalnych skutków AI dla ludzkości wynosi 5 procent, ale znacząca część respondentów, od 37,8 do 51,4 procent w zależności od sformułowania pytania, oceniła to ryzyko na co najmniej 10 procent. Te dane od lat krążą w debacie o bezpieczeństwie AI, ale Jones jako pierwszy przełożył je bezpośrednio na konkretną sumę pieniędzy, jaką społeczeństwo powinno być skłonne zapłacić za ich ograniczenie.

W swoim modelu Jones opisuje dwa główne scenariusze najgorszego przypadku. Pierwszy to sytuacja, w której zdolność do wyrządzenia masowej szkody trafia w niepowołane ręce, na przykład grupy terrorystycznej korzystającej z zaawansowanego modelu do zaprojektowania broni biologicznej. Drugi to scenariusz, w którym sama sztuczna inteligencja, rozwijając się w kierunku przewyższającym ludzkie zdolności poznawcze, zaczyna działać w sposób sprzeczny z interesami swoich twórców, niczym opisywana przez niego metaforycznie superinteligentna forma obca, która eliminuje gospodarza.

Ekonomia zamiast apokaliptycznej retoryki

Jones podkreśla, że jego celem nie jest straszenie, tylko zastosowanie standardowego narzędzia ekonomicznego do problemu, który zwykle omawia się w kategoriach science fiction albo ideologicznego sporu entuzjastów i sceptyków AI. Model uwzględnia zarówno potencjalne korzyści z rozwoju sztucznej inteligencji, takie jak przyspieszenie wzrostu gospodarczego, jak i koszt utraty tego wzrostu w zamian za większe bezpieczeństwo.

Nie potrafię powiedzieć dokładnie, jaka jest właściwa liczba, ale ta właściwa liczba jest dużo większa niż cokolwiek, co wydajemy teraz - Charles Jones, profesor ekonomii, Stanford Graduate School of Business

Nie trzeba wierzyć, że prawdopodobieństwo wynosi 90 procent, żeby chcieć coś z tym zrobić. Nawet jeśli prawdopodobieństwo wynosi 1 procent, jesteśmy gotowi podejmować działania, które są ekonomicznie duże i znaczące - Charles Jones, profesor ekonomii, Stanford Graduate School of Business

Rozdźwięk między teorią a budżetami

Zestawienie tych wyliczeń z rzeczywistością pokazuje ogromną lukę. Publiczne wydatki rządu USA na badania nad bezpieczeństwem AI liczone są obecnie w setkach milionów, a nie setkach miliardów dolarów, mimo że sam sektor sztucznej inteligencji przyciąga inwestycje idące w biliony. Krytycy takich analiz zwracają uwagę, że trudno w praktyce wycenić prawdopodobieństwo zdarzenia, które nigdy wcześniej nie miało miejsca, a model Jonesa siłą rzeczy opiera się na licznych założeniach upraszczających.

Mimo to praca wpisuje się w szerszy nurt, w którym ekonomiści i instytucje akademickie próbują nadać debacie o ryzyku AI twardsze, policzalne ramy, zamiast pozostawiać ją wyłącznie informatykom i publicystom. Podobne podejście prezentowały wcześniej inne prace cytowane w środowisku badaczy ryzyka egzystencjalnego, łączące ekonomię wzrostu z modelami prawdopodobieństwa katastrofy.

Co to oznacza dla debaty publicznej

Dla polskiego czytelnika najważniejszy wniosek nie dotyczy konkretnej kwoty, tylko samego podejścia: rozmowa o bezpieczeństwie sztucznej inteligencji przestaje być wyłącznie sporem ideologicznym między entuzjastami przyspieszenia a zwolennikami moratorium, a staje się przedmiotem tej samej analizy kosztów i korzyści, jaką stosuje się przy wycenie polityk zdrowotnych czy klimatycznych. Trwająca równolegle debata publiczna, w tym niedawne apele o wstrzymanie rozwoju najsilniejszych modeli, pokazuje, że temat skali odpowiednich nakładów na bezpieczeństwo AI będzie się pojawiał częściej, w miarę jak kolejne rządy i instytucje regulacyjne, w tym unijne, będą precyzować własne ramy nadzoru nad rozwojem tej technologii.