Tous les grands modèles de langage (LLM, ces IA entraînées à prédire du texte) écrivent comme une machine à écrire : un mot, puis le suivant, de gauche à droite. Avec DiffusionGemma, Google vient de proposer une autre mécanique. Et derrière l’annonce d’un modèle « jusqu’à 4 fois plus rapide » se cache une question bien plus profonde.
Car le chiffre qui fait les gros titres n’est pas le vrai sujet. Le vrai sujet, c’est la façon dont la phrase se construit.
Générer par blocs plutôt que mot à mot
Annoncé par Google le 10 juin 2026, DiffusionGemma est un modèle expérimental ouvert, publié sous licence Apache 2.0. Il abandonne la génération séquentielle, dite autorégressive, qui domine l’industrie depuis GPT. À la place, il produit des blocs entiers de texte simultanément : 256 tokens (unités de texte) calculés en parallèle à chaque passage.
Le principe vient de la « diffusion », la même famille de techniques qui a fait éclore les générateurs d’images. On part d’un brouillon bruité, puis on le débruite par itérations successives jusqu’à obtenir un texte cohérent. Google DeepMind le résume sans détour : au lieu de prédire mot à mot, le modèle écrit de gros blocs, puis se relit et se corrige.
Cette capacité à se relire change tout. Un modèle classique ne peut pas revenir en arrière : une fois le mot posé, il est figé. DiffusionGemma, lui, évalue tout le bloc d’un coup et rectifie ses erreurs en temps réel.
Pourquoi cette rupture compte vraiment
L’autorégressif règne pour une raison économique, pas seulement technique. Dans le cloud, écrire mot à mot reste efficace : les serveurs regroupent des milliers de requêtes pour partager la charge matérielle. Le coût se dilue dans la masse.
Mais en local, sur une seule machine et un seul utilisateur, cette logique s’effondre. Il n’y a personne avec qui mutualiser. Le goulot d’étranglement n’est plus le calcul brut, c’est la bande passante mémoire : le temps perdu à faire transiter les données. C’est précisément là que DiffusionGemma frappe. Google explique avoir déplacé ce goulot de la mémoire vers le calcul, ce que les GPU savent dévorer.
Le résultat ? Selon NVIDIA, jusqu’à 1 000 tokens par seconde sur une seule carte H100, et environ 700 sur une RTX 5090 grand public. Le tout dans un modèle qui tient sous 18 Go de mémoire vidéo une fois quantifié (compressé). De quoi faire tourner, sur une machine de bureau haut de gamme, des assistants réellement interactifs.
Ce que ça ouvre pour qui orchestre l’IA
Au-delà de la vitesse, l’attention bidirectionnelle ouvre des usages que l’autorégressif gère mal. Comme chaque token « voit » tous les autres du bloc, le modèle excelle là où la fin de la phrase dépend de son début, et inversement.
Concrètement, pour un praticien :
- l’édition en ligne, où l’on insère du texte au milieu d’un passage existant ;
- le remplissage de code (« code infilling »), entre une ouverture et une fermeture déjà écrites ;
- les structures non linéaires : graphes mathématiques, séquences d’acides aminés, mise en forme markdown.
L’illustration la plus parlante reste le Sudoku. Google montre une version affinée de DiffusionGemma qui résout des grilles, un exercice où les modèles mot à mot trébuchent parce que chaque chiffre dépend de cases encore à venir. Là où l’autorégressif avance en aveugle, la diffusion raisonne sur l’ensemble.
L’envers du décor : la qualité d’abord
Soyons clairs : ce n’est pas un remplaçant universel. Google le dit lui-même, et c’est tout à son honneur. La qualité globale des sorties de DiffusionGemma reste inférieure à celle des modèles Gemma 4 standards. Pour les applications qui exigent le meilleur, l’éditeur recommande explicitement de rester sur l’autorégressif.
Le mot « expérimental » n’est donc pas de la coquetterie. On parle d’un terrain de jeu pour développeurs et chercheurs, pas d’un produit clé en main. La vitesse se paie d’un compromis sur la finesse, et il faut le savoir avant de bâtir dessus.
Pour autant, le geste est stratégique. En publiant les poids en Apache 2.0 et avec un support matériel dès le premier jour chez NVIDIA, Google ne vend pas un modèle : il tente d’imposer une approche. Diffuser une alternative ouverte, c’est créer un écosystème avant les concurrents.
Une monoculture qui se fissure ?
Depuis trois ans, l’IA générative textuelle repose sur un quasi-monopole de méthode. Tout le monde optimise la même mécanique mot à mot, jusqu’à en faire un réflexe indiscutable. DiffusionGemma ne prétend pas la renverser. Il rappelle simplement qu’elle n’est pas la seule.
Et DiffusionGemma n’est pas seul sur ce terrain : la startup Inception Labs a commercialisé dès février 2025 Mercury, présenté comme le premier modèle de diffusion à grande échelle, et Google avait lui-même dévoilé son prototype Gemini Diffusion la même année. La fissure n’est donc pas un accident isolé, mais un mouvement de fond.
Et ce rappel arrive au moment où l’inférence locale redevient un enjeu : confidentialité, coûts, latence, autonomie vis-à-vis des grands fournisseurs cloud. Une technique taillée pour la machine d’un seul utilisateur tombe à point nommé.
Reste à voir si la diffusion textuelle saura un jour rejoindre l’autorégressif sur le terrain de la qualité, ou si elle restera l’outil spécialisé des tâches où relire vaut mieux qu’écrire vite. D’ici là, une certitude : le mot à mot n’est plus une évidence, juste un choix parmi d’autres.
