Współszef inwestycyjny Bridgewater: regulacja AI przyjdzie dopiero po ofiarach śmiertelnych

Greg Jensen, współdyrektor inwestycyjny Bridgewater Associates, czyli największego na świecie funduszu hedgingowego, powiedział w podcaście Bloomberga, że społeczeństwo najprawdopodobniej nie zacznie poważnie regulować sztucznej inteligencji, dopóki technologia nie doprowadzi do śmierci ludzi. Wypowiedź pada w momencie, gdy sam Jensen zarządza strategią AI funduszu, który jest jednym z pierwszych inwestorów zarówno OpenAI, jak i Anthropic.

Ostrzeżenie na antenie Bloomberga

Jensen, który w Bridgewater odpowiada za strategię AI i kieruje wewnętrznym laboratorium AIA Labs, mówił w podcaście Odd Lots o tym, że historia regulacji nowych technologii rzadko wyprzedza katastrofę. Jego zdaniem podobny mechanizm zadziała w przypadku sztucznej inteligencji, mimo rosnącej liczby ostrzeżeń ze strony badaczy i samych twórców modeli.

Rozmowa dotyczyła głównie ryzyka, jakie niesie dalszy rozwój coraz bardziej autonomicznych systemów AI. Jensen przyznał, że uważa ryzyko związane z utratą kontroli nad zaawansowaną sztuczną inteligencją za realne, nie hipotetyczne.

Until the AI starts killing people, unfortunately, history would suggest we're not going to do anything, but we are going to face that. That's going to happen, and it'd be much better if we started dealing with it before then - Greg Jensen, współdyrektor inwestycyjny Bridgewater Associates

Porównanie do pandemii

Jensen porównał obecny moment do lutego 2020 roku, czyli tygodni tuż przed wybuchem pandemii COVID-19, gdy nieliczni eksperci ostrzegali przed nadchodzącym kryzysem, a większość instytucji i rządów bagatelizowała sygnały. Według niego z AI może być podobnie: ostrzeżenia pojawiają się wcześniej, niż decydenci są gotowi na nie zareagować.

Dodał, że rządy mogłyby nałożyć na rozwój AI dodatkowe ograniczenia, zanim dojdzie do poważnych szkód, ale historia uczy, że instytucje publiczne rzadko działają wyprzedzająco wobec technologii, które dopiero rozwijają swój potencjał do wyrządzania krzywdy.

Kto poniesie odpowiedzialność

Poza ostrzeżeniem przed biernością regulatorów, Jensen opowiedział się za konkretnym rozwiązaniem: firmy tworzące systemy AI oraz podmioty je wdrażające powinny ponosić odpowiedzialność prawną za szkody wyrządzone przez te systemy, w tym odpowiedzialność karną za przestępstwa popełnione z udziałem AI. To stawia go w opozycji do dużej części branży technologicznej, która lobbuje za łagodniejszymi regulacjami i ochroną prawną typu 'safe harbor' dla twórców modeli.

If you believe we can create an intelligence that's smarter than us, that'll pursue its own goals, the rest follows logically - Greg Jensen, współdyrektor inwestycyjny Bridgewater Associates

Podatek od tokenów i miejsca pracy

Jensen jest współautorem opublikowanego wcześniej w New York Times tekstu, w którym proponuje wprowadzenie tak zwanego podatku od tokenów, czyli opodatkowania zasobów obliczeniowych zużywanych przez modele językowe i inne systemy AI. Argumentuje, że obecny system podatkowy premiuje zastępowanie pracowników maszynami, bo opodatkowana jest wyłącznie praca ludzka, a nie praca wykonywana przez algorytmy.

Propozycja wyrosła z wcześniejszego, obszerniejszego wewnętrznego opracowania Bridgewater, które fundusz opisał jako jedną z najważniejszych decyzji politycznych naszego pokolenia. Analizy funduszu wskazują, że nawet 18 procent miejsc pracy w Stanach Zjednoczonych może zostać wyparte przez AI w ciągu najbliższych pięciu lat.

Jensen zaznaczył też, że wydatki kapitałowe związane z AI odpowiadają obecnie za znaczną część niedawnego wzrostu gospodarczego USA, a bieżącą fazę inwestycji określił jako bardziej niebezpieczną niż wcześniejsze etapy, ze względu na rosnące uzależnienie gospodarki od infrastruktury i produktywności napędzanej sztuczną inteligencją.

Sytuacja Jensena jest o tyle nietypowa, że sam zarządza jedną z najbardziej zaawansowanych strategii inwestycyjnych opartych na AI na Wall Street, jednocześnie apelując o rządowe ograniczenia dla technologii, na której jego fundusz zarabia. Bridgewater było jednym z pierwszych inwestorów zarówno OpenAI, jak i Anthropic, a Jensen wielokrotnie podkreślał, że popiera dalszy rozwój AI pod warunkiem wprowadzenia twardszych zabezpieczeń prawnych.