L’essentiel
- OpenAI a présenté au salon Hot Chips les premiers résultats de Jalapeño, la puce d’inférence qu’elle a conçue avec Broadcom.
- Sur le benchmark public InferenceX de SemiAnalysis, elle affiche 1,5 à 1,9 fois plus de travail par watt et une latence 1,7 à 3,6 fois plus faible que les meilleurs systèmes du commerce.
- Elle se contente d’exécuter les modèles, ne les entraîne pas, et n’a pas dépassé le stade des échantillons d’ingénierie quand les premiers systèmes Vera Rubin de Nvidia arrivent chez les clients cet automne.
Sur la scène de Hot Chips, OpenAI n’est pas venue parler de modèles. L’entreprise a montré du silicium, le sien, et des courbes dressées contre Nvidia. Jalapeño, sa première puce d’inférence, sort des cartons avec des mesures qu’on n’attend jamais d’une première génération.
Une puce qui ne fait que la moitié du métier
Jalapeño exécute les modèles, elle ne les entraîne pas. L’inférence, c’est-à-dire l’exécution d’un modèle déjà entraîné, requête après requête, est le poste qui grossit le plus vite chez un fournisseur d’IA. Chaque conversation, chaque étape d’un agent, chaque appel d’API (interface de programmation) passe par là : la facture suit le trafic, pas les campagnes d’entraînement.
Autre point, moins commenté : la puce n’est pas taillée sur les modèles maison. OpenAI la présente comme un accélérateur généraliste pour grands modèles de langage, et l’a mesurée sur GPT-OSS 120B, DeepSeek R1 670B et Kimi K2.5 1T. Faire tourner des architectures conçues ailleurs, sans optimisation dédiée, en dit plus long sur la solidité du design qu’un score obtenu sur son propre modèle.
550 watts en charge face à des accélérateurs de 1 400
Les mesures viennent du benchmark InferenceX, publié en libre accès par SemiAnalysis, qui simule le service complet d’une requête. OpenAI a fourni les chiffres, SemiAnalysis a rejoué une partie des exécutions chez lui. Au pic de débit, OpenAI revendique 1,5 à 1,9 fois plus de travail par watt et une latence 1,7 à 3,6 fois plus basse que les racks Nvidia GB200 et GB300, dont les accélérateurs sont donnés pour 1 200 à 1 400 watts. Jusqu’à 4,1 fois sur les charges très interactives. Environ 1 400 tokens (les fragments de texte qu’un modèle produit) par seconde et par utilisateur sur GPT-OSS, plus de 700 sur une requête isolée avec DeepSeek R1, pour une consommation soutenue mesurée à 550 watts ou moins.
Un ratio circule plus vite que les autres : à vitesse de décodage égale, 54 à 104 fois le débit de tokens par kilowatt du meilleur accélérateur du marché. Le chiffre vaut pour ce régime précis, il n’est pas un facteur global, et la donnée solide reste le rapport performance/watt sur toute la plage testée. Jalapeño décroche par ailleurs ces résultats sans multi-token prediction ni speculative decoding, deux techniques qui devinent plusieurs tokens d’avance pour accélérer la génération. Certains systèmes comparés en bénéficiaient, eux.
Face à Vera Rubin, l’écart se resserre sur le coût
Blackwell fait un bon titre, Vera Rubin fait une bonne comparaison : les deux plateformes partagent la même génération de mémoire HBM4, à très haut débit et empilée au plus près du calcul. Même là, Jalapeño sort davantage de tokens par mégawatt, alors que l’accélérateur de Nvidia bénéficie du speculative decoding dont la puce d’OpenAI se passe encore. Sur le coût total de possession par token, en revanche, les deux se tiennent.
L’égalité sur le coût dit l’essentiel de la manœuvre. OpenAI ne promet pas un token deux fois moins cher à ses clients : elle déplace la marge que Nvidia encaissait dessus. Chaque watt servi par du silicium maison est un watt qui sort du carnet de commandes de son fournisseur.
OpenAI n’ouvre pas la voie pour autant : Google fait tourner ses TPU Ironwood, ses processeurs maison taillés pour l’inférence, Amazon ses Trainium 3, Meta ses MTIA. Mais ces puces servent d’abord des charges maison, quand Jalapeño est mesurée sur les grands modèles publics du marché.
Seize mois de conception, neuf jusqu’au plan final
Conception lancée mi-2024 avec Broadcom, envoi en fonderie en novembre 2025 : seize mois de cycle complet, dont neuf entre le premier design et le plan final parti en fabrication. OpenAI dit avoir mobilisé ses propres modèles à chaque étape : les générations anciennes pour concevoir la puce, les récentes pour la programmer et l’optimiser.
SemiAnalysis en tire la conclusion la plus dévastatrice : « le fossé CUDA est potentiellement mort, vu la vitesse à laquelle OpenAI démarre de nouveaux modèles sur son silicium ». Son dirigeant Dylan Patel ajoute : « d’habitude, les puces de première génération ne sont pas compétitives, mais OpenAI bat la Blackwell de Nvidia et même Rubin. » Nvidia tient son avance par CUDA, sa couche logicielle propriétaire, pas par le transistor : porter un grand modèle sur cet écosystème demande des années. Un portage bouclé en neuf mois abîme cette défense plus sûrement que n’importe quel graphique de watts.
Sarah Friar promet de continuer à acheter chez Nvidia et AMD
La directrice financière d’OpenAI inscrit Jalapeño dans une stratégie de calcul intégrée : centres de données, puces, modèles, plateforme développeur et produits tenus ensemble. Et elle insiste : la puce complète les partenariats avec Nvidia, AMD, AWS, Cerebras ou CoreWeave, elle ne les remplace pas.
Difficile de dire autre chose quand on dépend de ces fournisseurs pour l’entraînement et pour la capacité de demain matin. Des échantillons d’ingénierie ne servent aucun trafic, tandis que les racks Vera Rubin entrent en livraison cet automne. La phrase change pourtant de sens à la prochaine table de négociation : un acheteur capable de fabriquer son alternative n’achète plus au même prix.
Deux angles morts subsistent. Nvidia et AMD ont publié des résultats sur des modèles plus lourds, DeepSeek V4 Pro et Kimi K3, que Jalapeño n’a pas encore affrontés. Et une puce ne compte qu’en sortant de fonderie en série, pas en gagnant un graphique. OpenAI vise de premières livraisons d’ici la fin de l’année, la production de masse en 2027, et annonce une plateforme étalée sur plusieurs générations. Le rapport de force se lira dans ce calendrier de fonderie, le jour où des racks Jalapeño serviront du trafic réel.
Mon avis
Je retiens neuf mois, pas les multiplicateurs. Porter trois grands modèles publics sur un silicium neuf en moins d’un an, avec des modèles qui écrivent une partie du travail d’optimisation, voilà ce qui fragilise Nvidia sur la durée : la barrière logicielle qu’on croyait infranchissable se franchit désormais en trimestres. L’entraînement lui reste acquis, et Jalapeño n’y joue même pas. Mais sur le token servi, chaque grand acteur va refaire ce calcul, et je m’attends à voir Google, Meta et Amazon accélérer leurs propres programmes bien avant que les premiers racks Jalapeño ne sortent de fonderie en volume.
