Agenci AI zużywają ponad sto razy więcej prądu niż zwykłe chatboty, wykazało badanie KAIST

Zespół z Korea Advanced Institute of Science and Technology jako pierwszy policzył, ile prądu pochłania agent AI wykonujący złożone, wieloetapowe zadanie. Wynik zaskoczył samych badaczy: jedno zapytanie do agenta opartego na modelu 70 miliardów parametrów zużywa średnio 348,41 watogodziny energii, czyli 136,5 razy więcej niż odpowiedź zwykłego chatbota.

Różnica między chatbotem a agentem nie jest kosmetyczna. Chatbot dostaje pytanie, generuje odpowiedź i kończy pracę. Agent dostaje cel, na przykład zaplanowanie podróży czy zarządzanie budżetem, i sam rozkłada go na kroki: przeszukuje internet, wykonuje obliczenia, uruchamia zewnętrzne narzędzia i wielokrotnie wraca do własnego rozumowania, zanim uzna zadanie za zakończone.

Skąd bierze się ten koszt

Autorzy badania, opublikowanego pod tytułem The Cost of Dynamic Reasoning: Demystifying AI Agents and Test-Time Scaling from an AI Infrastructure Perspective, wskazują dwa mechanizmy. Pierwszy to sama natura rozumowania agentowego - model musi wielokrotnie uruchamiać swoje główne obliczenia, zanim dojdzie do finalnej odpowiedzi, co samo w sobie mnoży zużycie energii względem jednorazowej generacji tekstu.

Drugi mechanizm jest mniej oczywisty i bardziej kosztowny biznesowo. Gdy agent czeka na odpowiedź zewnętrznego narzędzia, na przykład wyniku wyszukiwania czy wywołania API, kosztowny procesor graficzny stoi bezczynnie, ale nadal pobiera prąd. Badacze z KAIST wyliczyli, że dzieje się tak przez ponad połowę całego czasu wykonania zadania - to strata mocy obliczeniowej, za którą i tak płaci operator centrum danych.

Nasze badanie jako pierwsze pokazuje ilościowo, ile prądu i kosztów wymaga wdrożenie tej inteligencji - Minsoo Rhu, profesor, KAIST School of Electrical Engineering

Rachunek przy pełnej skali

Najbardziej niepokojąca liczba w badaniu dotyczy nie pojedynczego zapytania, lecz skali. Gdyby agenci AI zaczęli obsługiwać dziennie 13,7 miliarda żądań, czyli tyle, ile obecnie wynosi globalny ruch wyszukiwarki Google, łączne zapotrzebowanie centrów danych na energię sięgnęłoby około 198,9 gigawata. To odpowiednik mniej więcej połowy średniego zużycia energii elektrycznej w całych Stanach Zjednoczonych.

Taki poziom zapotrzebowania znacząco przekracza obecne moce sieci energetycznych i istniejących centrów danych. Autorzy podkreślają, że to nie jest scenariusz odległej przyszłości - agenci AI już teraz są wdrażani masowo przez firmy takie jak Microsoft, Google czy Salesforce jako asystenci do zadań biurowych, obsługi klienta i programowania.

Co postulują badacze

Zespół z KAIST twierdzi, że samo usprawnianie oprogramowania nie wystarczy, by rozwiązać ten problem. Ich zdaniem potrzebne jest przeprojektowanie całego stosu technologicznego od podstaw - modeli AI, architektury mikroukładów oraz sposobu zarządzania mocą w centrach danych - zanim skala wdrożeń agentów zderzy się z fizycznymi granicami sieci energetycznej.

Wniosek ma znaczenie praktyczne również dla firm, które już dziś wdrażają agentów AI do automatyzacji procesów. Koszt energetyczny takich wdrożeń bywa ukryty w rachunkach za chmurę obliczeniową i rzadko jest osobno raportowany, co utrudnia realną ocenę opłacalności projektów agentowych na dużą skalę.

Znaczenie dla branży

Badanie KAIST dostarcza pierwszych twardych liczb w dyskusji, która do tej pory opierała się głównie na szacunkach dostawców chmury i doniesieniach o rosnącym zapotrzebowaniu centrów danych na prąd. Dla firm technologicznych planujących inwestycje w infrastrukturę pod agentowe AI oznacza to konieczność uwzględnienia znacznie wyższych kosztów energii niż przy klasycznych chatbotach, a dla operatorów sieci energetycznych - sygnał, że tempo wdrożeń agentów może wyprzedzić tempo rozbudowy mocy wytwórczych.

Źródła: Advanced AI uses 136.5 times more electricity than standard chatbots, study warns (koreatimes.co.kr), KAIST identifies the hidden energy cost of AI agents for the first time (eurekalert.org)