OpenAI hat die ersten Leistungsergebnisse für Jalapeño veröffentlicht, seinen maßgeschneiderten Chip, der dafür entwickelt wurde, KI-Modelle auszuführen statt sie zu trainieren. Das Unternehmen sagt, der Beschleuniger habe in Tests mit dem InferenceX-Benchmark von SemiAnalysis einen höheren Durchsatz pro Watt und eine niedrigere Antwortlatenz geliefert als derzeit verfügbare Systeme.

Die am Dienstag auf der Hot-Chips-Konferenz vorgestellten Ergebnisse weisen auf OpenAIs breitere Bemühungen hin, mehr Kontrolle über die Infrastruktur hinter seinen Produkten zu erlangen. Der Vergleich hat jedoch wichtige Einschränkungen: OpenAI stellte die Benchmark-Zahlen bereit, einige Läufe wurden von SemiAnalysis vor Ort verifiziert, und Jalapeño wird voraussichtlich selbst in kleinem Maßstab erst Ende 2026 eingesetzt werden. Ein umfangreicherer Einsatz ist für 2027 geplant.

Technisches Design und Benchmark-Nachweise

Jalapeño ist ein Inferenz-Beschleuniger, das heißt, er ist dafür gedacht, Antworten aus trainierten Modellen zu erzeugen. Anders als Allzwecksysteme, die sowohl beim Training als auch bei der Inferenz eingesetzt werden, ist der Chip um die Verzögerungen und Datenbewegungen herum konzipiert, die mit dem Bereitstellen großer Sprachmodelle verbunden sind.

OpenAI sagt, das System halte den Modellzustand, einschließlich des beim Antwortgenerieren verwendeten KV-Cache, nahe an den relevanten Rechen- und Speicherressourcen. Außerdem zielt es auf Vorbereitungs- und Kommunikationsphasen ab, die die Inferenz verlangsamen können, insbesondere wenn Modelle lange Prompts verarbeiten oder vielen Nutzern gleichzeitig dienen müssen.

Das Unternehmen meldete über drei getestete Modelle hinweg beim Spitzendurchsatz zwischen 1,5- und 1,9-mal mehr KI-Arbeit pro Watt. Zudem behauptete es Verbesserungen der End-to-End-Latenz um das 1,7- bis 3,6-Fache gegenüber den besten kommerziell verfügbaren Systemen im Vergleich. Für interaktive Workloads meldete OpenAI Leistungssteigerungen zwischen dem 2,1- und 4,1-Fachen.

Bei den getesteten Modellen handelte es sich um GPT-OSS 120B, Deepseek R1 670B und Kimi K2.5 1T. Laut The Decoders Bericht über die Präsentation erreichte Jalapeño bei GPT-OSS etwa 1.400 Token pro Sekunde und Nutzer sowie bei Deepseek R1 mit nur einer gleichzeitigen Anfrage mehr als 700 Token pro Sekunde.

Diese Zahlen sind kein universelles Ranking von KI-Hardware. OpenAI lieferte die Zahlen, die in den InferenceX-Ergebnissen verwendet wurden, während SemiAnalysis einige Läufe in seinem Labor verifizierte. Die Vergleichssysteme nutzten zudem Optimierungstechniken, darunter Multi-Token-Vorhersage und speculative decoding, die Jalapeño in den berichteten Tests nicht verwendete. Das könnte Spielraum für Verbesserungen lassen, macht den Vergleich jedoch auch schwieriger, ohne die vollständigen Konfigurationen und Workloads zu prüfen.

Nvidia-Vergleiche sind bedeutsam, aber vorläufig

Der wichtigste Vergleich war mit einem Nvidia-Blackwell-System, das derzeit weit verbreitet für KI-Workloads eingesetzt wird. The Decoder berichtete außerdem, dass SemiAnalysis Nvidias neuere Vera-Rubin-Plattform für den passendsten Vergleich hielt, da beide Systeme HBM4-Speicher verwenden. In diesem Vergleich soll Jalapeño mehr Ausgabe-Token pro Megawatt erzeugt haben, obwohl beide Plattformen beim Total Cost of Ownership pro Token ungefähr gleichauf lagen.

Der Zeitpunkt ist entscheidend. Vera-Rubin-Systeme werden bereits an Kunden ausgeliefert, während Jalapeño Berichten zufolge noch in der Phase des Engineering-Samples ist. Nvidia und AMD haben zudem Ergebnisse zu größeren oder neueren Modellen veröffentlicht, darunter DeepSeek V4 Pro und Kimi K3, die in den hier zitierten Jalapeño-Tests nicht enthalten waren.

Das macht OpenAIs Leistungsvorteil zu einem vielversprechenden frühen Resultat statt zu einer gefestigten Marktposition. Hardware-Benchmarks können sich erheblich verändern, wenn sich Modelle, Kernel, Speicherkonfigurationen, Software-Stacks und Serving-Richtlinien ändern. Der eigentliche Test wird sein, wie Jalapeño bei den Modellen und Traffic-Mustern abschneidet, die OpenAI in Produktionsmaßstab betreibt.

Eine Strategie für kundenspezifische Siliziumentwicklung mit Broadcom

Laut Berichten begann OpenAI 2024 gemeinsam mit Broadcom mit der Entwicklung von Jalapeño. Das finale Design wurde im November 2025 zur Fertigung geschickt. OpenAI sagte, der gesamte Zyklus habe etwa 16 Monate gedauert, mit neun Monaten zwischen dem ersten Chip-Design und dem Versand des fertigen Entwurfs an die Fabrik.

Das Unternehmen sagte außerdem, es habe während der Entwicklung seine eigenen KI-Modelle eingesetzt. Ältere Modelle halfen beim Chipdesign, während neuere Systeme bei Programmierung und Optimierung unterstützten. Diese Aussagen veranschaulichen die beabsichtigte Rückkopplungsschleife: Modelle helfen beim Bau der Hardware, die Hardware dient den Modellen, und Produktions-Workloads liefern Daten für weitere Software- und Architekturentscheidungen.

OpenAI präsentiert Jalapeño als Plattform über mehrere Generationen hinweg und nicht als einmaligen Prozessor. Der Ansatz koordiniert Chips, Speicher, Netzwerke und Modelle rund um die Phasen der Inferenz. OpenAI-CFO Sarah Friar beschrieb dies als Teil einer größeren Compute-Strategie, die Rechenzentren, Modelle, Produkte und Geräte miteinander verknüpft.

Die Strategie bedeutet nicht zwangsläufig, dass OpenAI externe Anbieter aufgibt. The Decoder berichtete, das Unternehmen sehe Jalapeño als Ergänzung zu Beziehungen mit Nvidia, AMD, AWS, Cerebras, CoreWeave und anderen Infrastrukturanbietern. In der Praxis steht OpenAIs kundenspezifische Hardware-Bemühung also neben diesen Partnerschaften und verschafft dem Unternehmen zugleich eine weitere Option für Verhandlungen und Kapazitätsplanung.

Folgen für Entwickler und Unternehmenskunden

Für KI-Produktteams ist das relevanteste Versprechen nicht allein ein Benchmark-Rekord, sondern die Möglichkeit niedrigerer Serving-Kosten bei hoher Auslastung. Mehr Output pro Watt könnte die Wirtschaftlichkeit von Chat-, Coding-Assistenten-, Sprachsystemen und anderen Produkten verbessern, die große Mengen an Antworten erzeugen. Niedrigere Latenz könnte zudem Anwendungen mit längerem Kontext reaktionsschneller wirken lassen.

Der Fokus der Architektur auf Prefill, Kommunikation und lokale KV-Cache-Platzierung ist besonders für Teams relevant, die große Modelle für viele gleichzeitige Nutzer bereitstellen. Diese Phasen können selbst dann zum Engpass werden, wenn rohe Beschleunigerleistung verfügbar ist. Ein auf den vollständigen Inferenzpfad ausgelegtes System kann daher bei bestimmten Produktionsmustern einen schnelleren Allzweck-Beschleuniger übertreffen.

Käufer sollten die aktuellen Ergebnisse jedoch nicht als Beleg dafür werten, dass Jalapeño für eine breite externe Einführung bereit ist. OpenAI hat nicht signalisiert, dass der Chip allgemein als kommerzielle Plattform verfügbar sein wird, und der anfängliche Einsatz dürfte klein sein. Entwickler, die auf Cloud-Infrastruktur aufbauen, müssen weiterhin die derzeit verfügbaren Systeme bewerten, einschließlich Softwarekompatibilität, Kapazität, Preis und Zuverlässigkeit.

Die Ergebnisse werfen allerdings eine Wettbewerbsfrage für Nvidias Software-Ökosystem auf. SemiAnalysis argumentierte, die Leistung könne Nvidias CUDA-Vorteil schwächen, doch das ist eine Marktinterpretation und keine nachgewiesene Änderung des Entwicklerverhaltens. CUDA-Kompatibilität, Tools, Operator-Bibliotheken, Support und die Fähigkeit, über Anbieter hinweg zu skalieren, bleiben wichtige Kaufkriterien neben Token pro Sekunde.

Worauf als Nächstes zu achten ist

Das erste Signal wird sein, ob OpenAI seine Prognose für eine kleine Jalapeño-Bereitstellung Ende 2026 einhält. Die Verfügbarkeit in Produktion statt die Leistung eines Engineering-Samples wird zeigen, ob das Design zuverlässig in großem Maßstab hergestellt und betrieben werden kann.

Die nächste Benchmark-Runde sollte neuere Modelle wie DeepSeek V4 Pro und Kimi K3, höhere Parallelitätsstufen und angepasste Software-Optimierungen über alle Systeme hinweg umfassen. Unabhängige Tests werden außerdem wichtig sein, um Stromverbrauch, Latenzverteilungen, Auslastung und Kosten pro Token zu bewerten.

Unternehmenskunden sollten auf Details zu Zugriff, Preisgestaltung, unterstützten Modellarchitekturen und der Integration in OpenAIs Serving-Stack achten. Für den breiteren Markt ist die Schlüsselfrage, ob OpenAI das Ergebnis über spätere Chip-Generationen hinweg wiederholen kann, während Nvidia, AMD und andere Anbieter ihre eigenen Inferenzplattformen weiter verbessern.

Creati.ai-Perspektive

Jalapeño ist strategisch wichtig, weil es zeigt, dass OpenAI die Inferenzökonomie als Produktdesignproblem betrachtet und nicht nur als Beschaffungsentscheidung. Sollten sich die berichteten Vorteile in unabhängigen Tests und im Produktionsverkehr bestätigen, könnte kundenspezifisches Silizium OpenAI mehr Kontrolle über Latenz, Stromverbrauch und Kapazität für seine am stärksten genutzten Dienste geben.

Die Belege sind noch früh und teilweise vom Anbieter kontrolliert. Die stärkste Schlussfolgerung heute ist, dass OpenAI ein glaubwürdiges Inferenzdesign der ersten Generation mit ermutigenden Benchmark-Ergebnissen hervorgebracht hat – nicht, dass es Nvidia bereits verdrängt oder einen neuen Hardware-Standard etabliert hat.