OpenAI publikuje pierwsze wyniki testów własnego chipa Jalapeño

OpenAI opublikowało pierwsze wyniki testów wydajności Jalapeño, swojego pierwszego własnego układu przeznaczonego do wnioskowania modeli językowych. Firma twierdzi, że chip, zaprojektowany wspólnie z Broadcomem, wypada lepiej niż porównywane systemy zarówno pod względem szybkości, jak i zużycia energii, a wdrożenie w infrastrukturze OpenAI ma się zacząć jeszcze w tym roku.

Co pokazały testy

Do oceny wydajności OpenAI użyło benchmarku InferenceX opracowanego przez firmę analityczną SemiAnalysis. W testach dla obciążeń wymagających bardzo niskich opóźnień Jalapeño osiągnął od 2,1 do 4,1 razy wyższą wydajność niż konkurencyjne rozwiązania. Dla modelu Kimi K2.5 1T zanotowano 1,5-krotnie wyższą wydajność szczytową na wat i 3,4-krotnie niższą latencję end-to-end.

OpenAI porównywało swój układ do systemów opartych na chipach Nvidia i AMD najnowszej generacji. Według firmy te układy oferują od 1,46 do 2,1 razy więcej surowej mocy obliczeniowej, ale zaledwie około 85 procent przepustowości pamięci w przeliczeniu na rack w porównaniu z rozwiązaniem OpenAI. Pojedynczy chip Jalapeño ma zapewniać 13,4 petaflopsa w formacie MXFP4, 216 GB pamięci HBM4 i 15,4 TB/s przepustowości pamięci, przy nominalnym poborze mocy 700 watów, choć w testowanych obciążeniach mierzone zużycie utrzymywało się na poziomie 550 watów lub niżej.

Architektura pod wnioskowanie

Jalapeño to układ zaprojektowany wyłącznie do wnioskowania, nie do trenowania modeli. OpenAI podkreśla, że architektura ma minimalizować przesyłanie danych w fazach prefill i komunikacji między chipami, które firma wskazuje jako typowe wąskie gardła w obsłudze dużych modeli językowych. Duża pamięć podręczna SRAM ma trzymać dane key-value cache lokalnie podczas generowania odpowiedzi, co skraca opóźnienia bez utraty przepustowości.

Jalapeño może obsłużyć więcej pracy AI na jednostkę mocy, a jednocześnie zwraca odpowiedzi szybciej - Richard Ho, OpenAI

Współpraca z Broadcomem

OpenAI i Broadcom ujawniły projekt Jalapeño w czerwcu 2026 roku jako pierwszy owoc współpracy zapowiedzianej w październiku 2025 roku. Od wstępnego projektu do tapeoutu, czyli finalnej wersji gotowej do produkcji, minęło dziewięć miesięcy, co firmy określają jako efekt ścisłej współpracy zespołów inżynierskich OpenAI z doświadczeniem Broadcomu w produkcji krzemu. Prezes Broadcomu Hock Tan mówił wcześniej o oszczędnościach kosztowych rzędu 50 procent względem typowych układów GPU.

Sam proces projektowania chipa miał być częściowo wspierany przez modele OpenAI. Firma podała, że wygenerowane przez AI implementacje fragmentów układu były od 1,5 do 1,8 razy szybsze niż istniejące rozwiązania, co skróciło czas rozwoju projektu.

Dlaczego to ważne dla rynku

Własny układ do wnioskowania zmniejsza zależność OpenAI od Nvidii, głównego dostawcy akceleratorów AI, i wpisuje się w szerszy trend budowania własnego sprzętu przez największe firmy AI, obok podobnych inicjatyw Google (TPU) czy Amazon. Dla klientów korporacyjnych korzystających z modeli OpenAI niższe koszty wnioskowania mogą w dłuższej perspektywie przełożyć się na tańsze ceny API, choć pierwsze wdrożenia mają objąć na razie tylko niewielkie wolumeny.

OpenAI zastrzega, że konkurenci mogą znacząco poprawić swoje układy zanim Jalapeño trafi do szerszego wdrożenia, a testy porównawcze prowadzone przez samą zainteresowaną firmę zwykle wymagają niezależnej weryfikacji. Mimo to, publikacja konkretnych liczb wydajności, zamiast samych deklaracji marketingowych, sugeruje, że projekt wszedł w fazę zaawansowanego testowania krzemu, a nie pozostaje na etapie koncepcyjnym.

Docelowe wdrożenie w centrach danych ma nastąpić za pośrednictwem partnerów, w tym Microsoftu, z pierwszymi niewielkimi wolumenami produkcyjnymi jeszcze w 2026 roku i istotnym zwiększeniem skali w 2027 roku.