Chińscy naukowcy łączą chipy światłem, przyspieszają wnioskowanie AI 149 razy

Naukowcy z Pekińskiego Uniwersytetu opublikowali wyniki, które mogą zmienić sposób budowania infrastruktury pod sztuczną inteligencję. Zamiast łączyć procesory tradycyjnymi ścieżkami elektrycznymi, zespół użył światła - i uzyskał wnioskowanie sieci neuronowej nawet 149 razy szybsze niż na pojedynczym GPU, przy zaledwie ułamku jego zużycia mocy obliczeniowej.

Jak działa optyczne połączenie

Sercem układu są krzemowe transceivery fotoniczne, które zamieniają sygnał elektryczny na optyczny i z powrotem, przesyłając dane z prędkością 400 gigabitów na sekundę. Pięć procesorów FPGA połączono w pełni optyczną siecią wspierającą przetwarzanie potokowe, a przełącznik optyczny 16x16 wykonany w technologii planarnych obwodów światłowodowych zapewnia stratność nie większą niż 5 decybeli przy długości fali 1300 nanometrów.

Dodatkowym elementem jest zwielokrotnienie falowe, które pozwala przesyłać wiele niezależnych strumieni danych jednym włóknem światłowodowym. W testach cały system przesyłał dane z prędkością 400 Gb/s bezbłędnie, mimo rekonfigurowalnych ścieżek optycznych między procesorami.

Problem ściany pamięci

Autorzy wskazują, że rosnące wymagania obliczeniowe systemów AI zderzają się z tak zwaną ścianą pamięci - opóźnieniem powstającym na styku procesora i pamięci. W głębokich sieciach neuronowych każda kolejna warstwa musi czekać, aż poprzednia zakończy obliczenia, co przy klasycznych połączeniach elektrycznych ogranicza tempo pracy całego systemu.

Zamiast budować pojedyncze, coraz większe i coraz bardziej zasobożerne układy, zespół z Pekinu zaproponował inne podejście: połączenie wielu skromniejszych chipów wydajnym optycznym interconnectem, tak by razem osiągały wydajność porównywalną z dużo większymi, energochłonnymi systemami. To pierwsza, jak podkreślają badacze, praktyczna demonstracja w pełni optycznego połączenia na poziomie chipów dla rozproszonego wnioskowania AI, wykraczająca poza czysto teoretyczne koncepcje w stronę realnych zastosowań brzegowych wymagających bardzo niskich opóźnień.

Kontekst wyścigu o moc obliczeniową

Wynik trafia w moment, gdy globalny przemysł AI mierzy się z rosnącymi kosztami energii i infrastruktury potrzebnej do trenowania i uruchamiania coraz większych modeli. Firmy takie jak Meta czy Microsoft budują kolejne gigawatowe centra danych, a ceny pamięci i procesorów graficznych biją rekordy z powodu popytu napędzanego przez AI. Chińskie zespoły badawcze od miesięcy prezentują alternatywne podejścia do budowy infrastruktury obliczeniowej, w tym układy fotoniczne, częściowo w odpowiedzi na ograniczenia w dostępie do najnowszych układów Nvidii.

South China Morning Post, który jako pierwszy szerzej opisał badanie, zwraca uwagę, że technologia adresuje właśnie ten problem - oferuje alternatywę dla podejścia polegającego na dokładaniu kolejnych GPU i rozbudowie centrów danych. Mniejsze zużycie energii i sprzętu przy zachowaniu wysokiej wydajności może mieć znaczenie zwłaszcza dla zastosowań brzegowych, gdzie liczy się zarówno szybkość odpowiedzi, jak i zużycie energii.

Co dalej

Praca opisuje demonstrację laboratoryjną, nie gotowy produkt komercyjny - autorzy sami podkreślają, że to pierwszy krok w stronę praktycznych zastosowań, a nie finalne wdrożenie. Mimo to wpisuje się w szerszy trend: w ostatnich miesiącach chińskie ośrodki naukowe, w tym Shanghai Jiao Tong University i Tsinghua University, publikowały kolejne prace nad układami fotonicznymi jako uzupełnieniem lub alternatywą dla klasycznych procesorów graficznych w zadaniach AI.

Dla branży istotne będzie to, czy podejście z Pekinu da się skalować poza laboratoryjne pięć procesorów FPGA do systemów wielkości przemysłowych centrów danych. Jeśli tak, optyczne połączenia mogłyby stać się jednym z narzędzi łagodzących presję na energię i chipy, która towarzyszy całej branży AI od kilku lat.

Źródła: South China Morning Post (scmp.com), National Science Review (academic.oup.com)