Zaawansowane agenty AI zużywają nawet 136 razy więcej prądu niż zwykłe chatboty

Zespół z Korea Advanced Institute of Science and Technology pod kierunkiem profesora Min-soo Rhu opublikował pierwsze tak szczegółowe wyliczenia zużycia energii przez agentową sztuczną inteligencję. Wyniki pokazują, że autonomiczne systemy, które samodzielnie przeszukują internet, wykonują obliczenia i uruchamiają polecenia, potrafią zużyć nawet 136,5 razy więcej prądu na jedno zapytanie niż zwykły chatbot udzielający prostej odpowiedzi.

• Zaawansowane agenty AI zużywają do 136,5 razy więcej prądu na zapytanie niż standardowe chatboty
• Generowanie odpowiedzi do złożonych zadań trwa 153,7 razy dłużej
• Pojedyncze złożone zapytanie pochłania około 348,41 watogodziny energii
• Przy 13,7 miliarda globalnych zapytań dziennie zapotrzebowanie centrów danych sięgnęłoby około 50 procent całkowitego zużycia energii w USA
• Układy GPU stoją bezczynnie przez ponad połowę czasu, czekając na odpowiedzi z zewnętrznych źródeł

Różnica między chatbotem a agentem AI polega na sposobie działania. Chatbot dostaje pytanie i od razu generuje odpowiedź. Agent dostaje cel, na przykład zaplanowanie podróży albo zarządzanie budżetem, i sam rozkłada go na kroki, szuka informacji w sieci, wykonuje obliczenia pośrednie i uruchamia zewnętrzne narzędzia, zanim poda finalny wynik. Każdy z tych kroków to osobne zapytanie do modelu, a więc osobny koszt energetyczny.

Skąd bierze się ta różnica

Zespół Rhu zmierzył, ile energii pochłania cały łańcuch działań agenta, od pierwszego zapytania po ostateczną odpowiedź, a nie tylko pojedynczą interakcję z modelem. To wielokrotne wywoływanie tego samego modelu w pętli, żeby doprecyzować plan, sprawdzić wynik pośredni czy poprawić błąd, sprawia, że łączny koszt energetyczny rośnie znacznie szybciej niż długość samej odpowiedzi.

Badacze zwrócili uwagę na jeszcze jeden efekt uboczny agentowego działania. Układy graficzne w centrach danych, które obsługują takie zapytania, stoją bezczynnie przez ponad połowę czasu, czekając na odpowiedź z zewnętrznego źródła, na przykład wyniku wyszukiwania w internecie albo odpowiedzi innego serwisu. Sprzęt wart miliony dolarów pobiera prąd, ale nie wykonuje w tym czasie żadnych obliczeń, co dodatkowo pogarsza efektywność energetyczną całego systemu.

Co oznacza skala 13,7 miliarda zapytań

Najbardziej niepokojący fragment badania dotyczy prognozy dla całej branży. Autorzy oszacowali, że gdyby agentowa AI trafiła do powszechnego użytku na poziomie 13,7 miliarda zapytań dziennie w skali globalnej, zapotrzebowanie centrów danych na energię zbliżyłoby się do połowy całkowitego zużycia prądu w Stanach Zjednoczonych. To liczba, która stawia pod znakiem zapytania obecny kierunek rozwoju branży, w której kolejne firmy prześcigają się w oferowaniu coraz bardziej autonomicznych agentów zdolnych do wielogodzinnej, samodzielnej pracy.

Firmy technologiczne nie mogą skupiać się wyłącznie na tym, żeby oprogramowanie było mądrzejsze, jeśli zależy im na zrównoważonej przyszłości - Min-soo Rhu, KAIST

Zdaniem badaczy sieci energetyczne w obecnym kształcie nie udźwigną masowego wdrożenia agentów AI bez fundamentalnego przeprojektowania samych modeli, układów scalonych i infrastruktury centrów danych. To przesuwa dyskusję z pytania, czy AI będzie coraz mądrzejsza, na pytanie, czy świat będzie miał wystarczająco dużo prądu, żeby z niej korzystać.

Znaczenie dla firm i branży

Dla firm wdrażających agentową AI badanie ma konkretne przełożenie na rachunki. Jeśli agent wykonujący jedno zadanie zużywa ponad sto razy więcej energii niż prosty chatbot, koszt operacyjny wdrożenia agentów na dużą skalę w call center, dziale sprzedaży czy obsłudze klienta może rosnąć znacznie szybciej niż zakładano w pierwotnych kalkulacjach zwrotu z inwestycji. To argument za tym, żeby projektować agentów oszczędnie, ograniczając liczbę zbędnych wywołań modelu i pętli weryfikacyjnych, a nie tylko maksymalizując ich autonomię.

Wyniki wpisują się też w szerszy niepokój operatorów sieci energetycznych, którzy od miesięcy ostrzegają przed skokowym wzrostem zapotrzebowania na prąd ze strony centrów danych AI. W Stanach Zjednoczonych i Europie inwestorzy budujący nowe centra danych coraz częściej muszą jednocześnie finansować własne elektrownie albo umowy na dedykowane moce, bo lokalne sieci przesyłowe nie nadążają z dostarczaniem energii w tempie, w jakim rosną potrzeby branży.

Co dalej

Zespół KAIST zapowiada dalsze prace nad metodami ograniczania energochłonności agentów, między innymi nad układami, które lepiej wykorzystują czas oczekiwania GPU na dane zewnętrzne zamiast pozwalać im stać bezczynnie. Wyniki tego typu badań mogą w najbliższych miesiącach trafić do dyskusji regulacyjnych o efektywności energetycznej AI, również w Europie, gdzie kwestie zużycia energii przez centra danych są coraz częściej łączone z unijnymi celami klimatycznymi.

Dla przeciętnego użytkownika najważniejszy wniosek jest prosty: im bardziej autonomiczne i wieloetapowe zadanie zleca się AI, tym większy jest jego niewidoczny koszt energetyczny, nawet jeśli sama odpowiedź wygląda na równie prostą jak w przypadku zwykłego chatbota.

Źródła: Advanced AI uses 136.5 times more electricity than standard chatbots, study warns (koreatimes.co.kr)