Il est rare qu’un patron de la tech s’accuse en public, chiffre à l’appui. Jonathan Ross, fondateur de Groq, vient de le faire : ses erreurs de dirigeant ont, selon lui, coûté trois à quatre ans à son entreprise de puces pour l’intelligence artificielle. L’aveu tombe quelques mois après un accord à 20 milliards de dollars qui a fait basculer une partie de ses équipes chez Nvidia, l’adversaire qu’il prétendait justement déloger.
Un fondateur d’infrastructure qui s’accuse lui-même
« J’étais un leader terrible », a lâché Ross dans le podcast « Founders », diffusé dimanche. Il se rangeait, dit-il, parmi les pires dirigeants au monde à ses débuts. L’homme n’est pourtant pas un amateur : ancien ingénieur de Google, il a participé à la conception du TPU, la puce maison qui accélère les modèles d’IA de Mountain View. En 2016, il fonde Groq autour d’une idée précise : le LPU (language processing unit), un circuit taillé pour l’inférence, cette phase où un modèle déjà entraîné produit ses réponses.
L’idée avait tout pour convaincre : offrir aux modèles de langage une alternative aux GPU de Nvidia, plus rapide et moins chère sur l’inférence. Groq a d’ailleurs séduit une partie de la communauté par ses démonstrations de vitesse de génération de tokens. Ce que Ross concède aujourd’hui, c’est que l’obstacle ne s’est jamais logé dans le silicium. Il était organisationnel.
Recrutement et délégation : là où la machine s’est grippée
Le récit qu’il déroule est celui d’un ingénieur devenu gestionnaire à contrecœur. Il n’a pas su recruter des profils capables de fonctionner en autonomie, puis a trop délégué. Résultat concret : des équipes qui s’immobilisaient faute de consignes. « Les choses s’arrêtaient parce qu’ils ne savaient pas quoi faire, et je ne leur disais pas quoi faire », raconte-t-il.
Sa parade est venue tard. Il a inversé sa grille de recrutement : au lieu de miser sur les qualités d’un candidat, il traque désormais ses points faibles potentiels avant d’embaucher. Ce genre de correctif, appliqué trois ans plus tôt, aurait peut-être changé la trajectoire d’une entreprise engagée dans une course où chaque trimestre compte.
Ross n’est pas seul dans ce cas. Dylan Field, patron de Figma, a raconté cet hiver son propre apprentissage douloureux de la gestion. Luis von Ahn, aux commandes de Duolingo, conseille aux fondateurs de micromanager jusqu’à cinquante salariés avant de lâcher du lest. La tech regorge de créateurs géniaux et de gestionnaires improvisés. Ce qui rend l’aveu de Ross singulier, c’est le secteur où il tombe.
Fabriquer une puce ne suffit pas à concurrencer Nvidia
Bâtir un accélérateur d’IA crédible ne se résume pas à graver un circuit performant. Il faut une chaîne complète : compilateur, bibliothèques logicielles, outils que les développeurs adoptent sans friction, capacité industrielle pour livrer à l’échelle. C’est précisément le fossé que Nvidia a creusé avec CUDA en quinze ans, et qu’aucun challenger n’a comblé par la seule élégance de son matériel. Cerebras et SambaNova, les autres prétendants sérieux à l’inférence, se heurtent au même mur logiciel : un silicium qui impressionne, un écosystème encore à bâtir.
Dans cette bataille, une entreprise qui perd trois à quatre ans sur son exécution interne ne perd pas seulement du temps. Elle laisse le concurrent consolider son verrou logiciel, verrouiller les grands clients du cloud et absorber la demande explosive d’inférence portée par les agents IA et les assistants conversationnels. Le talent en architecture matérielle existe chez les rivaux de Nvidia. La discipline d’organisation pour le transformer en produit dominant, beaucoup moins.
Les 20 milliards qui referment la parenthèse
Reste l’épilogue, et il en dit long sur le rapport de force. En décembre, Groq a signé avec Nvidia un accord de licence et de talents évalué autour de 20 milliards de dollars. L’opération a fait passer Ross, son président Sunny Madra et plusieurs cadres clés chez Nvidia, tout en laissant Groq exister comme entité indépendante, désormais dirigée par Adam Winter. Ross y occupe le poste d’architecte logiciel en chef.
Le renversement est complet : le fondateur qui devait fissurer l’hégémonie de Nvidia sur les puces d’IA se retrouve à concevoir du logiciel pour Nvidia. L’entreprise qui incarnait la sortie de la dépendance au géant de Santa Clara acte, par cet accord, l’inverse : l’expertise qu’elle avait bâtie renforce désormais celui qu’elle voulait affaiblir. Pour Nvidia, neutraliser un rival prometteur en récupérant ses cerveaux revient moins cher qu’une longue bataille juridique, et bien moins cher que de le laisser grandir.
Sans rival, le coût de l’inférence ne baissera pas
L’inférence est le nerf de la guerre pour quiconque déploie de l’IA générative en production : c’est elle qui facture à chaque requête, elle qui plombe les marges quand un assistant sert des millions d’utilisateurs. Un marché de puces réellement concurrentiel ferait baisser ces coûts. Or l’épisode Groq montre à quelle vitesse une alternative crédible peut être réabsorbée dans l’orbite du leader.
Choisir aujourd’hui une infrastructure d’inférence alternative, c’est parier autant sur la solidité de gestion de son fournisseur que sur ses gigaflops. Ross a eu l’honnêteté de nommer ce qui a manqué à Groq. D’autres challengers buteront sur la même marche, celle qui sépare une prouesse d’ingénierie d’une entreprise capable de tenir dans la durée. Et à chaque trébuchement, c’est Nvidia qui ramasse la mise.
