OpenAI wreszcie pokazało liczby dla Jalapeño, własnego układu ASIC do inferencji. Na slajdach wygląda to bardzo dobrze wobec systemów Nvidii, ale dla rynku ważniejsze jest co innego: kiedy ten chip wyjdzie poza prezentację i zacznie realnie ciąć koszty obsługi modeli.

TL;DR

  • Jalapeño to pierwszy customowy chip inferencyjny OpenAI, opracowany z Broadcom
  • Na benchmarku InferenceX daje 1,5-1,9× więcej pracy na wat i 1,7-3,6× niższą latencję niż GB200/GB300
  • Działa na modelach zewnętrznych: GPT-OSS 120B, DeepSeek R1 i Kimi K2.5 1T
  • TDP 700 W, zużycie w praktyce poniżej 550 W; wdrożenie w małych ilościach pod koniec 2026
  • Richard Ho, szef hardware’u OpenAI: „najlepsze z obu światów” – wysoka przepustowość i niska latencja jednocześnie

Co OpenAI pokazało na Hot Chips?

25 sierpnia 2026 roku OpenAI opublikowało wyniki testów Jalapeño na firmowym blogu i pokazało je na konferencji Hot Chips. Firma porównała układ z systemami opartymi na Nvidia GB200 i GB300, korzystając z publicznego benchmarku InferenceX opisywanego przez SemiAnalysis.

Testy objęły trzy modele: GPT-OSS 120B, DeepSeek R1 670B oraz Kimi K2.5 1T. Według danych OpenAI Jalapeño wypada lepiej pod dwoma względami naraz: daje od 1,5 do 1,9 raza więcej użytecznej pracy na wat przy wysokiej przepustowości oraz od 1,7 do 3,6 raza niższą latencję end-to-end.

Co te benchmarki mówią o kosztach inferencji?

To jest ciekawsze niż sam pojedynek „OpenAI kontra Nvidia”. W praktyce operatorzy infrastruktury zwykle muszą wybierać: albo system obsługuje dużo zapytań, albo odpowiada szybciej. OpenAI twierdzi, że Jalapeño ma łączyć oba scenariusze dzięki architekturze projektowanej razem z pamięcią, siecią i oprogramowaniem.

Jeśli te wyniki utrzymają się poza demonstracją, stawką są koszty obsługi modeli. Mniej energii na tę samą pracę oznacza niższy rachunek za prąd i większą gęstość obsługi zapytań w centrum danych. To istotne także w Europie, gdzie ceny energii dla dużej infrastruktury potrafią mocno wpływać na opłacalność wdrożeń AI.

Co Richard Ho powiedział o wdrożeniu Jalapeño?

Richard Ho, wiceprezes ds. hardware’u w OpenAI, powiedział podczas briefingu prasowego, że Jalapeño daje „najlepsze z obu światów”. Według Ho układ powstał we współpracy z Broadcom, a OpenAI wykorzystało też własne modele do projektowania i optymalizacji krzemu.

Tu jednak pojawia się zimny prysznic. Skala przyjdzie później: OpenAI mówi o małych wolumenach pod koniec 2026 roku i większym zwiększaniu produkcji w 2027. Innymi słowy, to jeszcze nie jest ruch, który z dnia na dzień przewróci rynek inferencji. Ho zaznaczył też, że firma nie planuje całkowicie odcinać się od partnerów takich jak Nvidia.

Gdzie Jalapeño ma ograniczenia i co zrobi Nvidia?

Jalapeño jest układem do inferencji, a nie do trenowania modeli, więc jego zastosowanie jest z definicji węższe. Według opisu benchmarków porównania przeprowadzono bez technik w rodzaju multi-token prediction, co SemiAnalysis uznało za uczciwsze zestawienie. Sam układ ma TDP na poziomie 700 W, choć w praktyce podczas testów zużycie miało spadać poniżej 550 W.

Problem dla OpenAI jest prosty: konkurencja nie stoi w miejscu. Nvidia szykuje już platformę Vera Rubin, więc dzisiejsza przewaga może stopnieć, zanim Jalapeño pojawi się szerzej w serwerowniach. Mimo to cel jest czytelny – OpenAI chce zmniejszyć zależność od jednego dostawcy GPU i mieć większą kontrolę nad kosztem działania własnych usług.