Les labos IA vont dépenser 100 milliards en données

Les labos IA vont dépenser 100 milliards en données

Andrew Ho quitte OpenAI après huit mois. Pas pour lever un fonds sur la promesse d’un modèle plus gros, mais pour vendre des données. Sa conviction, en une phrase inconfortable pour l’industrie : les grands modèles de langage généralisent mal, et aucune puissance de calcul supplémentaire n’y changera quoi que ce soit.

Le travail réel s’encode mal dans un jeu de données

Le diagnostic de Ho ne porte pas sur l’architecture des modèles mais sur ce qu’on leur donne à manger. Les compétences qui comptent économiquement sont à peine représentées dans les jeux de données existants. Le travail réel, écrit-il, est fortement contextuel et s’encode mal dans un environnement évaluable. Même quand on observe le chemin idéal suivi par un humain, rien ne dit ce qu’auraient produit les chemins écartés.

De là son chiffrage : plus de 100 milliards de dollars devront partir, dans les prochaines années, en collecte de données ciblée. Ses premiers produits visent la recherche scientifique. D’abord les analyses complexes en bio-informatique, où un modèle récent comme GPT-5.6 Sol plafonne à environ 30 % de réussite. Ensuite le travail de paillasse ordinaire, quand un chercheur photographie une expérience et demande à un modèle de l’évaluer. La chimie, la science des matériaux et la santé doivent suivre.

Ho ajoute une pique sur la valorisation des laboratoires de pointe : structurellement déficitaires, ils doivent financer sans cesse de nouveaux modèles pour rester devant des concurrents moins chers comme Qwen ou Kimi. Une course dont le coût monte plus vite que l’avance qu’elle procure.

Plus forts en programmation, plus faibles partout ailleurs

Adam Hunt, chercheur à Cambridge, décrit le même phénomène par un autre bout. Son optimisme initial s’est érodé au fil des sorties, et son constat est net : les modèles récents ne deviennent pas plus polyvalents, ils deviennent plus spécialisés. La programmation et les mathématiques complexes progressent nettement ; la qualité de l’écriture et la logique élémentaire stagnent, parfois régressent.

L’explication est mécanique. Le reinforcement learning, cet entraînement où le modèle apprend en étant récompensé quand il tombe juste, fonctionne admirablement là où le signal de récompense est net et les données complètes : en programmation, un test passe ou échoue. Partout ailleurs, ce signal n’existe pas. La polyvalence des premiers modèles n’était donc pas la preuve d’une compréhension générale, mais un effet de bord de l’entraînement sur un immense corpus de texte. Hunt reste prudent sur sa propre thèse : il ne s’accorde que 40 % de confiance, et reconnaît qu’un assemblage de modèles spécialisés pourrait finir par ressembler à quelque chose de général.

Le verrou s’appelle abduction

Tom Zahavy, de Google DeepMind, donne à ce progrès en dents de scie une explication structurelle dans une note de position au titre sans détour, LLMs can’t jump. Il reprend la classification du philosophe Charles Sanders Peirce : la déduction tire de règles fixes des conclusions garanties, l’induction repère des motifs dans les données, l’abduction invente une cause pour expliquer un phénomène surprenant.

Les deux premières sont largement acquises. AlphaProof a atteint le niveau de la médaille d’argent aux Olympiades internationales de mathématiques en 2024, et une version avancée de Gemini celui de la médaille d’or l’année suivante. Zahavy concède même qu’un modèle pourrait probablement redériver la relativité générale si on lui fournissait les postulats d’Einstein. Le blocage est en amont : formuler ces postulats. Il appelle cela l’abduction manipulative, l’invention d’une cause pour laquelle aucun précédent linguistique n’existe encore.

Son exemple est cruel pour tout apprentissage par optimisation. Quand Einstein travaille, il n’y a pas de crise des données : la physique de Newton est confirmée avec une précision extrême, et la seule anomalie connue, une dérive minuscule de l’orbite de Mercure, est mise sur le compte d’une planète cachée baptisée Vulcain. Un système qui apprend en corrigeant l’écart entre sa prédiction et la mesure n’a ici aucun écart exploitable. Il aurait fait ce que faisaient les astronomes de l’époque : ajouter une planète, pas réécrire l’espace et le temps. Les mesures de déviation de la lumière par Eddington ne sont arrivées que des années après la théorie.

D’où vient alors le saut ? De ce qu’Einstein appelait la pensée la plus heureuse de sa vie, rappelle Zahavy : l’observateur en chute libre qui ne sent plus son poids, puis le physicien enfermé dans un ascenseur accéléré. Une simulation incarnée, pas un calcul. Comme Archimède et sa baignoire. Ce que les modèles de langage n’ont pas, c’est cet ancrage sensoriel, et c’est précisément ce que promettent les world models, ces systèmes entraînés à simuler le comportement d’un environnement physique.

La dépense glisse du calcul vers les contrats d’accès

Les trois constats convergent vers le même déplacement budgétaire. D’ici fin 2027, l’essentiel de la dépense marginale des laboratoires ne portera plus sur des clusters de calcul supplémentaires mais sur des contrats d’accès : hôpitaux, laboratoires de recherche, cabinets d’expertise, industriels qui disposent de traces de travail réelles. Ce qui se vend, c’est la trajectoire vers la bonne réponse, impasses annotées comprises, puisque c’est exactement l’information qui manque aujourd’hui.

Le mouvement a d’ailleurs commencé sans attendre les 100 milliards. Mercor, place de marché qui loue des experts aux laboratoires et compte OpenAI comme Anthropic parmi ses clients, revendique 2 milliards de dollars de revenu annualisé en juin 2026, contre 760 millions fin 2025.

Rien ne garantit pour autant que cette bascule tienne. Il faudrait que les données de trajectoire améliorent mesurablement les tâches qu’aucun test ne valide automatiquement, ce qui reste à démontrer. Il faudrait que le coût de production de ces corpus reste inférieur à la marge qu’ils permettent de défendre, sans quoi la dépense se transformera en subvention à fonds perdu. Il faudrait enfin que les world models sortent des environnements simulés pour produire autre chose que des démonstrations.

Hôpitaux et industriels en fournisseurs stratégiques

Si cette lecture est juste, la hiérarchie du secteur bouge. Détenir le plus grand parc de GPU (les processeurs graphiques qui entraînent les modèles) ne protège de rien dès lors que le facteur limitant devient l’accès à des situations réelles documentées. Une institution médicale, un centre d’essais, un opérateur industriel se retrouvent en position de fournisseurs incontournables, avec le pouvoir de négociation qui va avec.

Côté produit, la conséquence est immédiate. Raisonner en capacités générales qui arriveront avec la prochaine version n’a plus de sens. Cartographiez plutôt les domaines où votre entreprise produit déjà des traces exploitables, et traitez-les comme un actif à conserver plutôt qu’à céder au premier contrat de licence venu. Le jour où un laboratoire de pointe signera un accord d’exclusivité de données à neuf chiffres, la bascule aura eu lieu, et elle se sera jouée loin des salles de calcul.

Sources

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *