L’essentiel
- Alibaba publie les poids de Qwen3.8-Flash-Next, un modèle MoE multimodal de 125 milliards de paramètres dont 6 milliards seulement s’activent par token, présenté par l’équipe Qwen comme un aperçu de l’architecture de Qwen4.
- L’éditeur annonce de meilleurs résultats que son propre Qwen3.7-Plus, qui compte 397 milliards de paramètres, pour environ un neuvième du coût d’entraînement.
- Une couche d’embeddings N-gram de 51 milliards de paramètres tient en RAM système au lieu de la mémoire GPU, ce qui permet d’exécuter le modèle quantifié sur environ 75 Go de mémoire.
- La version hébergée, Qwen3.8-Flash, est facturée 0,16 dollar le million de tokens en entrée et 0,47 en sortie sur QwenCloud.
Alibaba affirme avoir entraîné son nouveau modèle pour environ un neuvième de ce que lui a coûté Qwen3.7-Plus, son propre haut de gamme, et en tirer de meilleurs scores. Les poids sont déjà publics sur Hugging Face et ModelScope. Quelques heures après la publication, des développeurs le faisaient tourner sur une station de travail posée sous un bureau.
Neuf fois moins cher que le précédent modèle maison
La division par neuf compare l’éditeur à lui-même : Qwen3.7-Plus, 397 milliards de paramètres dont 17 activés par token. Le nouveau venu en compte 125 milliards au total et n’en active que 6. Presque trois fois moins de calcul par token généré, avec un modèle trois fois plus petit sur le papier.
Encore faut-il savoir ce que ce neuvième recouvre. Il s’agit du coût d’entraînement du modèle, pas du coût de l’inférence facturée ensuite, ni du budget complet d’un programme de recherche avec ses jeux de données, ses essais abandonnés et ses salaires. Aucun élément public ne permet de rapprocher ce montant de ceux d’OpenAI, d’Anthropic ou de Google, qui ne publient rien sur le sujet. Le rapport documente un gain d’efficacité d’architecture d’une génération Qwen à la suivante, rien d’autre.
Le gain n’en reste pas moins considérable. Un éditeur qui divise par neuf le coût de son propre entraînement peut multiplier les tentatives à budget constant. La cadence de sortie du laboratoire chinois s’explique en partie par là.
Six milliards de paramètres actifs, et une couche entière qui vit en RAM
L’innovation la plus concrète tient dans la couche d’embeddings N-gram : 51 milliards de paramètres qui stockent des groupes de mots courants comme des entrées autonomes, une sorte de dictionnaire de locutions injecté à l’entrée du réseau. L’équipe Qwen indique qu’elle peut résider en RAM système plutôt qu’en mémoire GPU, pour un surcoût qu’elle qualifie de relativement faible. Ces 51 milliards s’ajoutent donc aux 125 milliards du modèle sans peser sur la ressource la plus chère de la machine.
Le reste de l’architecture attaque le second goulot d’étranglement, la mémoire consommée par le cache KV (les clés et valeurs d’attention conservées pour éviter de relire tout le contexte à chaque token) quand la séquence s’allonge. Trois couches sur quatre utilisent Gated DeltaNet, qui compresse l’historique dans un état récurrent de taille fixe : le cache cesse de grossir avec la longueur du texte. La quatrième utilise Qwen Sparse Attention, qui agrège la séquence en micro-blocs, estime leur importance au niveau du bloc et ne va chercher que les régions pertinentes. Alibaba n’est pas seul sur cette piste : DeepSeek-V4, publié en avril, empile lui aussi deux mécanismes d’attention compressée et ramène le cache KV à un dixième de celui de la génération précédente sur un million de tokens.
NVIDIA, qui assure la prise en charge dès le premier jour via SGLang, vLLM et TensorRT LLM, cite les mesures publiées par Alibaba : jusqu’à 7,6 fois plus rapide en prefill (la phase où le modèle avale la question avant d’écrire) et 4,9 fois en décodage face à une attention complète, et 8,6 fois le débit de prefill de Qwen3.7-Plus sur un contexte d’un million de tokens avec 90 % de cache de préfixe réutilisé. Ces accélérations valent pour un scénario précis, très long contexte et fort taux de réutilisation du cache, celui des agents qui relisent la même base de code toute la journée. Sur une requête courte, elles fondent.
75 Go de RAM, quantification comprise
Unsloth annonce l’exécution locale du modèle sur 75 Go de RAM via ses fichiers GGUF, le format standard des modèles que l’on fait tourner chez soi, avec des vitesses proches de celles de la VRAM (la mémoire embarquée sur la carte graphique) sur les configurations à mémoire unifiée. Simon Willison a documenté son propre essai sur un DGX Spark avec deux quantifications, ces versions compressées où chaque paramètre est stocké sur moins de bits qu’à l’origine : l’une de 72,5 Go et l’autre de 78,9 Go.
Ces 75 Go correspondent à des poids compressés de façon agressive, pas au modèle tel qu’il a été publié. Une compression à ce niveau dégrade la qualité de génération, dans des proportions que personne n’a encore mesurées sérieusement sur ce modèle. Et la machine citée en exemple par NVIDIA, station DGX, cluster de DGX Spark ou station de travail équipée de quatre RTX PRO 6000 Blackwell Max-Q, ne coûte pas le prix d’un ordinateur familial.
Le seuil d’entrée baisse tout de même pour de bon. Le plancher matériel passe d’un rack de serveurs à une machine unique, dans la gamme de prix d’une voiture d’occasion plutôt que d’un contrat cloud annuel. Un studio de dix personnes peut signer ce chèque une fois.
Sur SWE-bench Pro, Qwen passe devant Claude Opus 4.6
Alibaba oppose son modèle à DeepSeek-V4-Flash, 284 milliards de paramètres dont 13 actifs, et à Claude Opus 4.6 en mode Max. Sur SWE-bench Pro, qui demande de corriger des bugs réels dans de vrais projets, Qwen3.8-Flash-Next obtient 62,5 contre 53,4 au modèle d’Anthropic. Sur CoWorkBench, une batterie de tâches de bureau enchaînées, l’écart avec DeepSeek atteint 73,9 contre 45,1. Sur JobBench, qui simule des missions professionnelles complètes, le score double presque celui de Qwen3.7-Plus, 55,7 contre 27,6.
Deux réserves accompagnent ce tableau, publié par le vendeur lui-même. La première tient au choix de l’adversaire : Claude Opus 4.6 date de février 2026, ce qui laisse deux générations d’écart dans un domaine où six mois comptent. La seconde tient à la répartition des écarts. Sur le raisonnement scientifique, GPQA Diamond place les modèles à 91,7 contre 91,3, et sur la programmation compétitive à 91,9 contre 88,8 : tout le monde se tient. Les écarts spectaculaires apparaissent uniquement sur les tâches d’agent et de bureau, c’est-à-dire sur le terrain que l’équipe Qwen dit avoir optimisé. Un modèle bien préparé aux épreuves qu’il a choisies, mesuré par celui qui le vend.
Anthropic garde d’ailleurs l’avantage sur Humanity’s Last Exam, la batterie de problèmes multidisciplinaires les plus difficiles, avec 40,0 contre 35,9. La seule case où le modèle chinois ne passe pas devant est aussi celle qui ressemble le moins à un exercice préparable.
0,16 dollar le million de tokens, ou la machine sous le bureau
La version de production, Qwen3.8-Flash, arrive sur QwenCloud à 0,16 dollar le million de tokens en entrée et 0,47 en sortie. À ce tarif, une équipe qui consomme quelques centaines de millions de tokens par mois n’a aucune raison économique d’installer quoi que ce soit chez elle. Le calcul bascule plus loin, quand le volume, la latence ou la confidentialité des données pèsent plus lourd que la facture.
Un modèle fermé conserve son avantage tant qu’il coûte trop cher à reproduire. Alibaba vient de publier le rapport technique de son architecture sur GitHub, d’en distribuer les poids, et de rendre l’ensemble exécutable sur une machine qu’une PME peut acheter. Le contexte natif de 262 144 tokens, extensible à un million avec YaRN, une méthode d’extension du contexte, couvre déjà la quasi-totalité des usages d’agent en entreprise. Les fournisseurs propriétaires comptaient leur avance en années de recherche. Elle tient désormais dans un trimestre de feuille de route.
Mon avis
Ces 75 Go de RAM abîmeront plus sûrement le modèle économique des fournisseurs d’API que n’importe quel tableau de benchmarks. Un modèle téléchargé une fois et exécuté sur une machine amortie ne change pas la facture mensuelle, il change la structure de coût du produit qu’on construit autour. Je m’attends à ce que la bataille se déplace vers le support, l’engagement de disponibilité et la conformité, terrain sur lequel un fichier GGUF ne propose strictement rien. Anthropic et OpenAI ont encore quelque chose à vendre de ce côté, et ils ont intérêt à s’en rendre compte avant que leurs clients ne fassent le calcul à leur place.
Sources :
- NVIDIA Developer Blog, « Experiment with Qwen3.8-Flash-Next on NVIDIA GB300 NVL72 for Agentic Coding »
- Unsloth AI (compte officiel) sur X
- Simon Willison, essai du modèle sur DGX Spark
