OpenAI a publié les premiers résultats de performance pour Jalapeño, sa puce sur mesure conçue pour exécuter des modèles d’IA plutôt que pour les entraîner. L’entreprise affirme que l’accélérateur a offert un meilleur débit par unité de puissance et une latence de réponse plus faible que les systèmes actuellement disponibles lors de tests menés avec le benchmark InferenceX de SemiAnalysis.

Les résultats, présentés mardi à la conférence Hot Chips, témoignent de l’effort plus large d’OpenAI pour contrôler davantage l’infrastructure derrière ses produits. Mais la comparaison comporte d’importantes limites : OpenAI a fourni les chiffres du benchmark, certaines exécutions ont été vérifiées sur site par SemiAnalysis, et Jalapeño ne devrait même pas entrer en déploiement à petite échelle avant fin 2026. Un usage plus important est prévu pour 2027.

Conception technique et preuves de benchmark

Jalapeño est un accélérateur d’inférence, ce qui signifie qu’il est destiné à générer des réponses à partir de modèles entraînés. Contrairement aux systèmes polyvalents utilisés à la fois pour l’entraînement et l’inférence, la puce est conçue autour des latences et des mouvements de données associés au service de grands modèles de langage.

OpenAI indique que le système conserve l’état du modèle, y compris le KV cache utilisé pendant la génération des réponses, à proximité des ressources de calcul et de mémoire pertinentes. Il cible également les étapes de préremplissage et de communication qui peuvent ralentir l’inférence, en particulier lorsque les modèles doivent traiter de longs prompts ou servir de nombreux utilisateurs simultanément.

L’entreprise a annoncé entre 1,5 et 1,9 fois plus de travail d’IA par watt au débit de pointe sur trois modèles testés. Elle a également revendiqué des améliorations de latence de bout en bout allant de 1,7 à 3,6 fois par rapport aux meilleurs systèmes commercialement disponibles dans la comparaison. Pour les charges de travail interactives, OpenAI a fait état de gains de performance compris entre 2,1 et 4,1 fois.

Les modèles testés étaient GPT-OSS 120B, Deepseek R1 670B et Kimi K2.5 1T. Selon le compte rendu de The Decoder sur la présentation, Jalapeño a atteint environ 1 400 tokens par seconde et par utilisateur sur GPT-OSS et plus de 700 tokens par seconde sur Deepseek R1 avec une seule requête concurrente.

Ces chiffres ne constituent pas un classement universel du matériel IA. OpenAI a fourni les nombres utilisés dans les résultats InferenceX, tandis que SemiAnalysis a vérifié certaines exécutions dans son laboratoire. Les systèmes comparés utilisaient également des techniques d’optimisation, notamment la prédiction multi-token et le speculative decoding, que Jalapeño n’a pas utilisées dans les tests rapportés. Cela peut laisser une marge d’amélioration, mais rend aussi les résultats plus difficiles à comparer sans examiner les configurations et charges de travail complètes.

Les comparaisons avec Nvidia sont significatives mais provisoires

La comparaison phare portait sur un système Nvidia Blackwell, actuellement largement déployé pour les charges de travail d’IA. The Decoder a aussi rapporté que SemiAnalysis jugeait la nouvelle plateforme Vera Rubin de Nvidia plus appropriée comme comparaison, les deux systèmes utilisant de la mémoire HBM4. Dans cette comparaison, Jalapeño aurait produit plus de tokens de sortie par mégawatt, bien que les deux plateformes soient à peu près à égalité sur le coût total de possession par token.

Le calendrier compte. Les systèmes Vera Rubin sont déjà expédiés aux clients, tandis que Jalapeño resterait au stade d’échantillon d’ingénierie. Nvidia et AMD ont également publié des résultats sur des modèles plus grands ou plus récents, notamment DeepSeek V4 Pro et Kimi K3, qui n’étaient pas inclus dans les tests Jalapeño cités ici.

Cela fait de l’avantage de performance d’OpenAI un résultat initial prometteur plutôt qu’une position de marché établie. Les benchmarks matériels peuvent changer considérablement lorsque les modèles, les kernels, les configurations mémoire, les piles logicielles et les politiques de service changent. Le véritable test sera la façon dont Jalapeño se comporte sur les modèles et les profils de trafic qu’OpenAI exploite à l’échelle de production.

Une stratégie de silicium personnalisé avec Broadcom

Selon les rapports, OpenAI a commencé à développer Jalapeño avec Broadcom en 2024. La conception finale a été envoyée à la fabrication en novembre 2025. OpenAI a déclaré que le cycle complet avait pris environ 16 mois, avec neuf mois entre la conception initiale de la puce et l’envoi du plan final à l’usine.

L’entreprise a également indiqué avoir utilisé ses propres modèles d’IA pendant le développement. Les anciens modèles ont aidé à la conception de la puce, tandis que des systèmes plus récents ont contribué à la programmation et à l’optimisation. Ces affirmations illustrent la boucle de rétroaction voulue : les modèles aident à construire le matériel, le matériel sert les modèles, et les charges de travail de production fournissent des données pour de futures décisions logicielles et architecturales.

OpenAI présente Jalapeño comme une plateforme multigénérationnelle plutôt que comme un processeur ponctuel. L’approche coordonne puces, mémoire, réseau et modèles autour des phases d’inférence. Sarah Friar, directrice financière d’OpenAI, a décrit cela comme une partie d’une stratégie de calcul plus large reliant centres de données, modèles, produits et appareils.

Cette stratégie ne signifie pas nécessairement qu’OpenAI abandonne les fournisseurs externes. The Decoder a rapporté que l’entreprise considère Jalapeño comme complémentaire aux relations impliquant Nvidia, AMD, AWS, Cerebras, CoreWeave et d’autres fournisseurs d’infrastructure. En pratique, l’effort de matériel personnalisé d’OpenAI coexiste avec ces partenariats, tout en lui donnant une autre option de négociation et de planification des capacités.

Implications pour les développeurs et les acheteurs d’entreprise

Pour les équipes produit IA, la promesse la plus pertinente n’est pas un record de benchmark en soi, mais la possibilité de coûts de service plus faibles à forte utilisation. Un meilleur rendement par watt pourrait améliorer l’économie des chatbots, assistants de codage, systèmes vocaux et autres produits générant de grands volumes de réponses. Une latence plus faible pourrait aussi rendre les applications à contexte long plus réactives.

L’accent mis par l’architecture sur le préremplissage, la communication et le placement local du KV cache est particulièrement pertinent pour les équipes qui servent de grands modèles à de nombreux utilisateurs simultanés. Ces étapes peuvent devenir des goulets d’étranglement même lorsque la puissance brute de l’accélérateur est disponible. Un système conçu autour du parcours complet d’inférence peut donc surpasser un accélérateur polyvalent plus rapide sur certains schémas de production.

Cependant, les acheteurs ne devraient pas considérer les résultats actuels comme une preuve que Jalapeño est prêt pour une adoption externe à grande échelle. OpenAI n’a pas indiqué que la puce serait largement disponible comme plateforme commerciale, et son déploiement initial devrait être limité. Les développeurs bâtissant sur une infrastructure cloud devront toujours évaluer les systèmes disponibles aujourd’hui, y compris leur compatibilité logicielle, leur capacité, leur prix et leur fiabilité.

Les résultats soulèvent néanmoins une question concurrentielle pour l’écosystème logiciel de Nvidia. SemiAnalysis a avancé que les performances pourraient affaiblir l’avantage CUDA de l’entreprise, mais il s’agit d’une interprétation de marché, et non d’un changement démontré du comportement des développeurs. La compatibilité CUDA, les outils, les bibliothèques d’opérateurs, le support et la capacité à monter en échelle entre fournisseurs restent des critères d’achat importants au-delà des tokens par seconde.

Ce qu’il faut surveiller ensuite

Le premier signal sera de savoir si OpenAI respecte sa prévision d’un déploiement à faible volume de Jalapeño fin 2026. La disponibilité en production, plutôt que la performance d’un échantillon d’ingénierie, montrera si la conception peut être fabriquée et exploitée de manière fiable à grande échelle.

La prochaine série de benchmarks devrait inclure des modèles plus récents comme DeepSeek V4 Pro et Kimi K3, des niveaux de concurrence plus élevés et des optimisations logicielles alignées sur tous les systèmes. Des tests indépendants seront également importants pour évaluer la consommation électrique, les distributions de latence, l’utilisation et le coût total par token.

Les acheteurs d’entreprise devraient surveiller les détails concernant l’accès, les tarifs, les architectures de modèles prises en charge et l’intégration avec la pile de service d’OpenAI. Pour le marché au sens large, la question clé est de savoir si OpenAI peut reproduire le résultat sur les générations de puces suivantes tandis que Nvidia, AMD et d’autres fournisseurs continuent d’améliorer leurs propres plateformes d’inférence.

Perspective Creati.ai

Jalapeño est stratégiquement important parce qu’il montre qu’OpenAI considère l’économie de l’inférence comme un problème de conception produit, et pas seulement comme une décision d’approvisionnement. Si ses gains rapportés résistent aux tests indépendants et au trafic de production, le silicium sur mesure pourrait donner à OpenAI davantage de contrôle sur la latence, la consommation d’énergie et la capacité de ses services les plus utilisés.

Les preuves sont encore préliminaires et partiellement contrôlées par le fournisseur. La conclusion la plus solide aujourd’hui est qu’OpenAI a produit une conception d’inférence crédible de première génération avec des résultats de benchmark encourageants — et non qu’elle a déjà évincé Nvidia ou établi un nouveau standard matériel.