L’essentiel
- Amin Vahdat, patron de l’infrastructure IA de Google, affirme que l’inférence dépassera bientôt l’entraînement dans le coût total d’un modèle.
- La bascule vient des agents : chaque requête déclenche désormais plusieurs appels au modèle, là où un chatbot n’en faisait qu’un.
- Conséquence directe pour les équipes en production : le poste de dépense dominant n’est plus la fabrication du modèle, mais son usage répété.
Amin Vahdat ne dirige pas une équipe qui conçoit des modèles. Il construit les data centers qui font tourner Gemini, Search et YouTube, en co-design permanent avec DeepMind. Et au Raise Summit, l’homme qui porte chez Google le titre de SVP of AI and Infrastructure (vice-président senior, IA et infrastructure) a posé un pronostic sans détour : d’ici peu, faire tourner les modèles coûtera plus cher que les entraîner.
La phrase paraît technique. Elle décrit en réalité un déménagement complet du centre de gravité économique de l’IA. Pendant trois ans, tout le débat a tourné autour de l’entraînement : le nombre de puces, les milliards engloutis pour produire un modèle de plus en plus gros. Vahdat annonce que ce chapitre cesse d’être le plus cher. Le gouffre se déplace vers l’autre bout de la chaîne, là où le modèle répond, requête après requête.
L’entraînement se paie une fois, l’inférence à chaque requête
Entraîner Gemini est un événement ponctuel et colossal : des dizaines, parfois des centaines de milliers de puces mobilisées pendant des semaines, un coût énorme mais fini. L’inférence, elle, ne s’arrête jamais. Chaque question posée, chaque résumé, chaque ligne de code générée consomme du calcul en temps réel. Multipliez par des centaines de millions d’utilisateurs quotidiens et le total finit mécaniquement par écraser la facture d’entraînement, aussi spectaculaire soit-elle.
Vahdat le formule comme un arbitrage qu’il ne peut pas trancher. La qualité du modèle est « absolument critique », dit-il, mais un modèle qui consomme toutes les ressources devient « inutilisable à grande échelle ». Sa métaphore est parlante : avoir le meilleur modèle du monde ne sert à rien s’il ne peut fournir qu’une réponse par jour. Tout l’enjeu tient sur une courbe, quelque part entre qualité, performance et efficacité, et son travail consiste à trouver le point exact où l’expérience reste excellente sans que le coût par réponse ne dérape.
Un agent raisonne en boucle, et chaque boucle se paie
Si la bascule s’accélère maintenant, c’est à cause de la nature même de ce qu’on demande aux modèles. Un chatbot classique, c’était un appel : une question, une réponse. Un agent, lui, raisonne en boucle. Il planifie, appelle un outil, lit le résultat, se corrige, recommence. Une seule tâche utilisateur peut déclencher dix, vingt, cinquante passages par le modèle. La consommation d’inférence ne croît plus au rythme du nombre d’utilisateurs, mais au rythme du nombre d’étapes que chaque tâche exige.
Vahdat le confirme à demi-mot quand il décrit son périmètre : l’infrastructure ne sert plus seulement à entraîner et à « servir » les modèles, mais désormais à « faire fonctionner des agents ». Ce dernier mot change tout. Il signale que Google dimensionne déjà ses machines pour un monde où l’IA ne répond pas, mais agit, et où chaque action se paie en cycles de calcul.
Le calcul que vous devrez faire en 2027
Si Vahdat a raison, ce pronostic déplace la question budgétaire d’une équipe qui déploie de l’IA. Elle ne sera bientôt plus « combien coûte l’accès au meilleur modèle », mais « combien coûte chaque exécution de mon agent, multipliée par le volume que j’espère atteindre ». Le coût marginal, longtemps négligeable face à l’abonnement, redevient la variable qui décide de la rentabilité d’un produit.
Trois conséquences concrètes se dessinent à l’horizon des dix-huit à vingt-quatre prochains mois. D’abord, le choix du modèle cessera d’être binaire : on n’ira plus systématiquement vers le plus puissant, mais vers le plus petit qui tient la tâche, le gros modèle étant réservé aux étapes qui l’exigent vraiment. Ensuite, la sobriété d’un agent, sa capacité à résoudre un problème en trois appels plutôt qu’en trente, deviendra un avantage compétitif mesurable, pas un détail d’ingénieur. Enfin, les fournisseurs vendront de moins en moins un modèle et de plus en plus une efficacité : le prix par million de tokens comptera autant que le score sur les benchmarks.
Chez Google, la puce et le modèle se dessinent ensemble
Le co-design vertical que décrit Vahdat prend là tout son sens. Quand un problème est critique, il réunit concepteurs de modèles et ingénieurs matériel dans la même salle, écran contre écran, parce que la manière dont un modèle est découpé et réparti entre les puces pèse directement sur le coût de chaque réponse. Un grand modèle ne tient pas sur une seule puce : il faut le fractionner, décider combien de mémoire et de calcul placer où, quelle bande passante réseau prévoir. Ces choix, invisibles pour l’utilisateur, déterminent si une requête coûte un centime ou dix.
C’est aussi la raison pour laquelle Google mise autant sur ses puces maison, les TPU (Tensor Processing Units). Optimiser le silicium pour l’inférence, et pas seulement pour l’entraînement, c’est se donner un levier sur le seul coût qui va compter demain. Google n’est d’ailleurs pas seul sur ce calcul : Amazon avance ses puces Trainium et Inferentia, et Microsoft a présenté début 2026 son Maia 200, taillé lui aussi pour l’inférence plutôt que pour l’entraînement. Les acteurs qui, eux, louent leur calcul à prix fort n’auront pas ce levier, et c’est peut-être là que se jouera l’écart des prochaines années.
Concrètement, la bascule deviendra visible le jour où un fournisseur affichera noir sur blanc un coût par tâche d’agent en baisse. Pas un modèle plus intelligent : un prix qui s’effondre. Ce sera le signe que la course a quitté la puissance brute pour l’économie du calcul, là où Vahdat la situe déjà.
Mon avis
Je crois que cette bascule va faire plus de dégâts chez les startups IA que chez les hyperscalers (les géants du cloud). Beaucoup ont bâti leur produit en supposant que le calcul resterait bon marché et abondant, et ont empilé des agents bavards qui multiplient les appels sans compter. Quand le coût d’inférence deviendra le premier poste de leur P&L (compte de résultat), elles découvriront qu’une architecture sobre n’était pas une option d’ingénieur mais une condition de survie. D’ici deux ans, je m’attends à ce qu’on juge une équipe IA moins sur la finesse de ses prompts que sur le nombre d’appels qu’elle sait s’épargner.
