Altman: domowy RAM jest używany przez 5 proc. czasu, lepiej przenieść go do centrów danych

Sam Altman, szef OpenAI, powiedział w podcaście Cheeky Pint, że pamięć RAM w domowych komputerach jest wykorzystywana źle. Według relacji polskich mediów technologicznych uważa, że przy niedoborze DRAM lepiej byłoby przenieść obliczenia do centrów danych. Wypowiedź padła w momencie, gdy ceny pamięci rosną, a konsumenci płacą za to więcej za sprzęt.

Co powiedział Altman

Rozmowa w Cheeky Pint dotyczyła rosnącego zainteresowania uruchamianiem otwartych modeli AI lokalnie, na własnych komputerach, zamiast w chmurze. Według Spider's Web Altman ocenił, że z punktu widzenia globalnej alokacji zasobów jest "wręcz fatalnie", gdy ludzie trzymają w komputerach ograniczoną pamięć DRAM, używaną tylko przez około 5 proc. czasu.

Jego argument opiera się na współdzieleniu. W centrum danych ta sama pamięć obsługuje wiele zapytań i wielu użytkowników naraz, więc nie czeka bezczynnie w rzadko obciążanym komputerze. Dobreprogramy, w tekście opracowanym przez redaktora prowadzącego Benchmark.pl, podają przykład komputerów z 32 lub 64 GB RAM-u.

Co nie padło

Spider's Web zaznacza, że wypowiedź dotyczyła głównie lokalnych modeli AI, a nie komputerów do gier, choć sam argument obejmuje też pamięć konsumentów. Według Dobrychprogramów Altman nie przekreśla sensu lokalnej AI: przyznaje, że daje ona niezależność od dostawców, lepszą prywatność i działanie bez internetu. Podkreśla, że przy niedoborach liczy się nie tylko ilość pamięci, ale też jej efektywne użycie.

Materiał Dobrychprogramów streszcza wypowiedź Altmana bez dosłownych cytatów i bez podania daty odcinka. Oryginalnego nagrania nie sprawdzaliśmy, a cytaty pochodzą z polskiego tłumaczenia w prasie.

Rynek pamięci

Altman mówił też o branży producentów pamięci. Przez lata produkcja DRAM była mało opłacalna: według Spider's Web ujął to jako inwestowanie "20 mld dolarów nakładów kapitałowych, żeby zarobić 19 mld dolarów". Teraz najwięksi producenci mogą generować nawet 100 mld dolarów wolnych przepływów rocznie.

Firmy pamiętają jednak dawne cykle nadmiernych inwestycji i spadków cen, dlatego nie spieszą się z rozbudową mocy. Altman stwierdził, że "niewidzialna ręka rynku zawodzi", bo przy tak wysokich cenach nowi gracze powinni już wchodzić na rynek.

Rachunek dla kupujących

Spider's Web opisuje skutki dla konsumentów: Apple dwukrotnie podniósł ceny laptopów, tanim smartfonom grozi wyginięcie, a rynek PC jest w najgorszej sytuacji od kilkunastu lat. Drożeją moduły DDR5 i DDR4, a popyt napędza AI, zwłaszcza na pamięć HBM. To ocena autorki tekstu, nie dane niezależnego pomiaru.

Spider's Web ocenia wypowiedź Altmana bardzo krytycznie i przypomina, że kryzys na rynku pamięci napędzają centra danych. Dobreprogramy relacjonują ją stosunkowo neutralnie i dodają, że to użytkownik decyduje, jak wykorzystać pamięć kupioną za własne pieniądze.

Z perspektywy globalnej alokacji zasobów jest wręcz fatalnie, że wszyscy mają w swoich komputerach spore ilości ograniczonych zasobów DRAM, które są wykorzystywane przez 5 proc. czasu - Sam Altman, szef OpenAI (w tłumaczeniu Spider's Web)

Dla polskiego czytelnika wniosek jest praktyczny: spór dotyczy tego, gdzie ma działać AI, lokalnie czy w chmurze, a pamięć jest deficytowa w obu miejscach. Według Dobrychprogramów argument Altmana opiera się na tym, że prywatne komputery przez większość doby nie wykonują intensywnych zadań związanych ze sztuczną inteligencją.