Jonathan Ross a fondé Groq pour battre Nvidia sur l’inférence, l’étape où un modèle déjà entraîné produit ses réponses en temps réel. Il travaille aujourd’hui chez Nvidia. Et l’entreprise qu’il a laissée derrière lui vient de lever 350 millions de dollars pour louer à ses clients des GPU Nvidia.
L’opération est menée par le fonds d’investissement Disruptive, avec une participation annoncée de Nvidia, et valorise Groq 3,5 milliards de dollars. En septembre dernier, la même société en valait 6,9 milliards. Entre les deux dates, un accord de licence de 20 milliards de dollars a permis à Nvidia de recruter Ross et une partie de ses meilleurs ingénieurs ; la somme a été reversée aux investisseurs.
L’accord de licence a vidé le laboratoire
Officiellement, personne n’a perdu d’argent. L’entreprise refuse le terme de down round, ces levées réalisées à une valorisation en baisse, et parle de valoriser « la version post-accord de licence Nvidia » de Groq. La formule est habile. Elle acte surtout que ce qui valait 6,9 milliards, c’était l’équipe et son pari technique, pas le carnet de clients.
Ce pari portait un nom : le LPU (language processing unit), une puce dessinée pour une seule tâche, faire tourner des modèles de langage plus vite et à moindre coût que les GPU généralistes de Nvidia. Sur le débit, la promesse tenait. Groq servait des tokens à des vitesses que personne d’autre n’affichait publiquement.
Il manquait l’autre moitié de l’équation : du volume disponible immédiatement, pour n’importe quel modèle, dans n’importe quelle région. Une architecture spécialisée impose des contraintes en amont, sur les modèles qu’elle sait accueillir et sur la vitesse à laquelle on fabrique les puces. Nvidia, lui, livre des racks.
CUDA et le catalogue pèsent plus lourd que la latence
Une équipe qui met une application d’agents en production ne choisit pas une puce. Elle choisit une capacité : le modèle qu’elle veut, disponible là où sont ses utilisateurs, avec un quota qui ne saute pas au premier pic de trafic, et un environnement logiciel où son code tourne sans réécriture. CUDA, la couche logicielle de Nvidia, compte ici davantage qu’un gain de latence en démonstration.
C’est la leçon coûteuse de cette séquence. Le pari de la puce spécialisée n’a pas échoué sur les performances : il a échoué sur le catalogue et sur les délais. Un fournisseur deux fois moins cher qui ne propose pas le modèle du moment ne franchit même pas l’appel d’offres.
Passer de 54 à plus de 200 mégawatts en un peu plus d’un an
Groq exploite treize data centers en Amérique du Nord, en Europe, au Moyen-Orient et en Asie-Pacifique, et revendique plus de 6 millions d’utilisateurs : développeurs, grandes entreprises et start-up nées avec l’IA. L’entreprise vise plus de 200 mégawatts de capacité installée en 2027, contre 54 actuellement. En juin, une première levée de 650 millions de dollars avait amorcé le virage.
Le mégawatt est devenu l’unité de compte du secteur parce qu’il dit l’essentiel : la quantité d’électricité qu’on sait convertir en tokens. Quadrupler cette capacité en un peu plus d’un an relève du foncier, du raccordement électrique et du refroidissement, pas de l’algorithme. Ce sont deux métiers différents, et Groq vient d’en changer.
Nvidia finance désormais ceux qui louent ses GPU
Nvidia fournit déjà les GPU de CoreWeave, de Lambda et de Nebius, tout en investissant des milliards dans plusieurs d’entre eux. En ajoutant Groq à cette liste, le fabricant convertit un concurrent en canal de distribution et retire du jeu l’une des rares équipes qui attaquaient sa position sur l’inférence avec une architecture différente. L’accord de licence rapporte donc bien au-delà des brevets.
Pour Groq, l’échange est brutal mais lisible : on abandonne l’ambition de remplacer Nvidia pour devenir un opérateur de sa capacité, avec la croissance rapide et les marges contraintes que cela implique. Alex Davis, président de Groq et patron de Disruptive, l’assume sans détour : « Nous construisons Groq pour en faire le premier cloud d’inférence au monde », et l’inférence deviendra selon lui « la couche la plus large et la plus critique de l’infrastructure IA ».
Sur le diagnostic, il a probablement raison. La couche la plus large n’est simplement pas la plus rentable.
CoreWeave montre déjà la facture du modèle neocloud
Le modèle neocloud, ces opérateurs spécialisés qui louent de la puissance de calcul IA sans être des hyperscalers généralistes, a déjà son tenant du titre : CoreWeave. Sa croissance reste forte au deuxième trimestre et il a signé avec Meta et Anthropic, mais ses investisseurs s’inquiètent du niveau de ses dépenses d’investissement, de son recours à la dette et de la dépréciation accélérée de ses machines. Un GPU acheté aujourd’hui vaut nettement moins dans dix-huit mois, quand la génération suivante double le rapport performance-prix.
Les comptes de Groq restent privés, mais l’équation ne varie pas d’un opérateur à l’autre : financer du matériel qui se déprécie vite avec du capital qui coûte cher, en espérant que la demande remplisse les racks assez longtemps pour les amortir. Les 350 millions doivent d’ailleurs servir les clients qui cherchent « des clusters de taille moyenne à grande » de calcul accéléré Nvidia, pour l’entraînement comme pour l’inférence. Un positionnement de sous-traitant de capacité, assumé.
Une option non-Nvidia disparaît au pire moment
Le marché perd l’une des rares alternatives à Nvidia capables de tenir l’échelle, au moment précis où les charges d’agents et de RAG (génération augmentée par la recherche) font gonfler le volume de tokens consommés par requête. Il n’en reste guère que deux à ce niveau : Cerebras, entré en Bourse en mai et porté par son contrat de 750 mégawatts avec OpenAI, et SambaNova, encore indépendante, qui n’envisage pas d’introduction en Bourse avant 2027. La concentration se resserre pendant que la facture augmente.
Avant de bâtir sur une API d’inférence à bas coût, posez trois questions à votre fournisseur : qui possède les machines, sous quel contrat d’approvisionnement, et que devient le prix au token quand la génération suivante de GPU arrive. Prévoyez aussi une porte de sortie côté code, en isolant les appels au modèle derrière votre propre couche d’abstraction. Les tarifs agressifs d’aujourd’hui financent des amortissements qu’il faudra bien payer.
Groq conserve son nom, ses clients et ses data centers. La thèse qui justifiait son existence, gagner l’inférence avec sa propre puce, ne survit pas à l’opération : ces 350 millions financent son démantèlement ordonné.
