L’essentiel
- AMD rachète Taalas, une startup canadienne fondée à Toronto en 2023, qui inscrit l’architecture et les paramètres entraînés d’un modèle directement dans le silicium.
- Sa puce de démonstration dépasse 16 000 tokens par seconde et par utilisateur sur Llama 3.1-8B, plusieurs fois la vitesse des accélérateurs d’inférence concurrents.
- Contrepartie assumée : chaque puce est verrouillée sur un seul modèle, sans mise à jour possible.
- AMD veut intégrer la technologie à sa feuille de route et la proposer aux côtés des GPU Instinct ; l’opération reste soumise aux autorisations réglementaires.
Une puce qui ne saura jamais exécuter autre chose que le modèle gravé dedans à l’usine : voilà ce qu’AMD vient d’acheter en annonçant le rachat de Taalas, une startup de Toronto qui a dévoilé sa première puce en février dernier.
La contrainte paraît absurde tant qu’on n’a pas regardé ce qui freine un GPU (processeur graphique) pendant qu’il produit du texte. Le calcul y pèse moins que le va-et-vient : les milliards de paramètres du modèle dorment dans une mémoire voisine, et il faut aller les relire pour fabriquer chaque token, ces fragments de texte que le modèle aligne les uns après les autres. Taalas a retourné le problème : et si les poids cessaient d’être des données à lire pour devenir le circuit lui-même ?
Quand les poids deviennent du câblage
L’idée de la startup tient en une phrase : inscrire l’architecture du modèle et ses paramètres entraînés directement dans le silicium, au moment de fabriquer la puce. Il n’y a plus de fichier de poids à charger au démarrage. Le modèle n’est plus installé sur la puce, il est la puce.
L’image la plus parlante, c’est la boîte à musique. Un lecteur de disques peut jouer n’importe quel morceau : il lit un support, il décode, il restitue. Une boîte à musique, elle, ne lit rien du tout, puisque la mélodie est gravée dans les picots de son cylindre. Elle ne jouera jamais autre chose, mais elle n’a besoin d’aller chercher aucune information pour jouer.
Transposé à l’inférence (la phase où un modèle déjà entraîné produit ses réponses), le gain est spectaculaire. Le trajet le plus coûteux, celui qui relie sans cesse le calcul à la mémoire, disparaît en grande partie. La puce de démonstration de Taalas a dépassé 16 000 tokens par seconde et par utilisateur sur le Llama 3.1-8B de Meta. À titre de comparaison, Cerebras et Groq, les deux spécialistes de l’inférence rapide, annoncent au mieux quelques milliers de tokens par seconde, mais leurs puces restent programmables et peuvent changer de modèle.
Une vitesse taillée pour les boucles d’agents
Le « par utilisateur » n’est pas une précision de mesure anodine : il change la nature de la performance annoncée. Il ne s’agit pas d’un débit global réparti entre des centaines de sessions, mais de la vitesse ressentie par une seule d’entre elles. À ce rythme, le modèle produit en une seconde ce qu’un lecteur humain met plusieurs minutes à parcourir.
Cette vitesse ne sert évidemment pas à écrire plus vite qu’on ne lit. Elle sert à tout ce qu’on empile derrière un token : un agent qui explore dix pistes avant d’en retenir une, un raisonnement qui déroule des milliers de tokens invisibles avant la première ligne de réponse, une boucle de vérification qui relit sa propre sortie. La latence est aujourd’hui le plafond des architectures agentiques, bien avant la qualité des modèles.
Une puce, un modèle, et rien à mettre à jour
La contrepartie est brutale, et définitive : pas de mise à jour des poids, pas de bascule vers la version suivante le jour où elle sort. Quand le modèle gravé devient obsolète, le matériel l’est avec lui.
C’est là que la manœuvre devient intéressante, parce qu’elle prend le secteur à rebours. Depuis trois ans, l’écosystème carbure au renouvellement permanent : une génération majeure tous les six mois, des numéros de version qui bougent tous les mois, des modèles retirés du catalogue avant d’avoir été amortis. Graver un modèle dans du silicium revient à miser sur l’inverse : que certains modèles tiendront assez longtemps pour qu’on leur consacre une usine.
Les gros volumes tournent sur des modèles qui bougent peu
Ce pari n’a rien d’absurde. Il suffit de regarder où se concentrent réellement les volumes d’inférence : pas sur les modèles de pointe, mais sur les petits modèles stables, déployés en masse pour des tâches répétitives. Classer, extraire, résumer, router, modérer, transcrire. Le choix du Llama 3.1-8B pour la démonstration n’a d’ailleurs rien d’exotique : c’est exactement le genre de moteur qu’on installe une fois et qu’on laisse tourner des années.
Pour ces charges-là, la mise à jour permanente coûte plus qu’elle ne rapporte. Vous ne changez pas de modèle de classification tous les trimestres par gourmandise : il faut refaire les jeux de tests, revalider les seuils, traquer les régressions dans tout ce qui dépendait du comportement précédent. Un modèle figé, dans ce contexte, ressemble moins à une limite qu’à une garantie de stabilité.
AMD garde ses GPU et leur ajoute un étage figé
AMD ne compte pas troquer ses GPU contre ces puces. Vamsi Boppana, vice-président senior de la division IA du groupe, présente l’opération comme un renforcement de portefeuille : la technologie de Taalas doit rejoindre la feuille de route des accélérateurs et être proposée à côté des Instinct, dans une logique de solution système. Ljubisa Bajic, cofondateur de la startup, y voit l’échelle et la portée commerciale qui lui manquaient. L’opération reste soumise aux autorisations réglementaires habituelles.
Concrètement, une charge d’inférence va se scinder en deux étages. D’un côté les GPU génériques, souples, pour tout ce qui bouge encore : expérimentation, modèles de pointe, adaptation aux données maison. De l’autre, du silicium dédié pour les briques stabilisées, celles dont on connaît le comportement par cœur. C’est le raisonnement qui a fait passer le décodage vidéo du processeur généraliste à une puce dédiée, et ce basculement-là n’a jamais fait marche arrière.
Un signe que le pari dépasse AMD : selon des informations de presse, Google prépare une puce baptisée « Frozen v2 », qui graverait l’architecture de Gemini dans le silicium tout en laissant la possibilité d’y recharger de nouveaux poids, une version plus prudente du même raisonnement. Quand deux acteurs de cette taille envisagent de figer un modèle dans du matériel, l’IA cesse d’être un logiciel qu’on met à jour pour devenir une infrastructure, avec des composants qu’on ne remplace pas tous les six mois. Encore faudra-t-il que les modèles acceptent, eux aussi, de se tenir tranquilles.
Mon avis
Ce rachat ne se joue pas sur les modèles vedettes, et c’est précisément ce qui le rend malin : AMD achète le droit de figer les briques que plus personne ne regarde, celles qui tournent en silence sous les produits. Ma réserve est ailleurs. Une puce mono-modèle, c’est aussi un fournisseur qui décide à votre place de la date de péremption de votre infrastructure, et l’industrie du matériel n’a jamais brillé par sa transparence sur ce point. Avant de graver quoi que ce soit, je veux voir un engagement écrit sur la durée de vie du modèle embarqué, pas une courbe de tokens par seconde.
