L’essentiel
- Tencent publie Hy3, un modèle open-weight de 295 milliards de paramètres dont 21 milliards seulement sont actifs à chaque requête.
- Le taux d’hallucination annoncé chute de 12,5 % à 5,4 % entre la version préliminaire d’avril et la version publiée.
- Licence Apache 2.0, disponible sur Hugging Face, ModelScope et GitHub, avec une version quantifiée FP8 de 300 Go.
- Une évaluation à l’aveugle par 270 experts le note 2,67 sur 4, devant GLM-5.1 (2,51).
Tencent vient de publier Hy3, un modèle qui n’active que 21 de ses 295 milliards de paramètres tout en prétendant tenir tête à des rivaux deux à cinq fois plus lourds. Toute la démonstration tient dans cet écart, entre ce qu’il mobilise pour répondre et ce qu’il embarque. Et derrière le cas Hy3, c’est surtout l’état de l’open-weight qui se lit.
21 milliards actifs sur 295 : la mécanique du MoE
Hy3 repose sur une architecture Mixture-of-Experts (MoE), qui découpe le réseau en sous-modèles spécialisés et n’en sollicite qu’une fraction à chaque token généré. Sur ses 295 milliards de paramètres, 21 milliards seulement travaillent à un instant donné, auxquels s’ajoutent 3,8 milliards dédiés à une couche de prédiction multi-tokens (MTP, pour Multi-Token Prediction, qui anticipe plusieurs tokens d’un coup afin d’accélérer l’inférence).
L’intérêt est direct : le coût de calcul suit le nombre de paramètres actifs, pas le total. Un modèle qui n’en active que 21 milliards se déploie et se facture comme un modèle de cette taille, tout en puisant dans la connaissance des 295. La fenêtre de contexte, elle, grimpe à 256 000 tokens.
Deux à cinq fois plus gros : sur quoi repose la comparaison
La promesse « rivalise avec des modèles deux à cinq fois sa taille » ne se mesure pas au pifomètre. Tencent l’adosse à une évaluation à l’aveugle menée par 270 experts, où Hy3 obtient 2,67 sur 4, devant GLM-5.1 et ses 2,51. L’écart est réel mais serré, et il porte sur un panel de juges humains, pas sur une batterie de benchmarks publics reproductibles.
C’est la limite de l’exercice : une note agrégée par des évaluateurs lisse les cas d’usage. Elle indique qu’en moyenne, sur ce que ces experts ont soumis, Hy3 tient tête. Elle ne dit pas sur quelles tâches il décroche. Les premiers tests indépendants comblent une partie du vide : face à GLM-5.2, plus récent et près de deux fois plus lourd, Hy3 garderait l’avantage sur la plupart des tâches, mais cède sur le code, son point faible du moment. La comparaison « x2 à x5 » vaut donc surtout comme argument économique : à qualité perçue voisine, activer 21 milliards de paramètres plutôt que cent change radicalement l’addition côté serveur.
De 12,5 à 5,4 % d’hallucinations : d’où vient la chute
Le chiffre le plus parlant pour un praticien se cache ailleurs que dans la note des experts : dans le taux d’hallucination. Entre la version préliminaire d’avril et la version publiée, Tencent le fait tomber de 12,5 % à 5,4 %, soit une division par plus de deux. L’équipe Hy attribue ce gain à un post-entraînement mené sur des données de meilleure qualité, nourri par les retours de plus de cinquante produits internes.
Pour qui bâtit un système de RAG (génération augmentée par récupération) ou un agent qui enchaîne des appels, ce point pèse davantage que la course aux paramètres. Une hallucination sur vingt plutôt qu’une sur huit, à l’échelle d’une chaîne de traitement automatisée, sépare l’outil qu’on doit surveiller de l’outil qu’on laisse tourner. À nuancer tout de même : le chiffre reste déclaratif, mesuré par Tencent sur ses propres protocoles, et demande à être rejoué sur vos jeux de données avant d’y engager quoi que ce soit.
Apache 2.0 : l’open-weight chinois grignote le milieu de gamme
Le déblocage tient à la licence. Hy3 sort sous Apache 2.0 sur Hugging Face, ModelScope et GitHub, avec une version quantifiée en FP8 (format qui divise par deux l’empreinte mémoire) : 300 Go contre 598 pour le modèle complet. Il tourne gratuitement sur OpenRouter jusqu’au 21 juillet, et Tencent l’a déjà branché dans ses propres produits, de WeChat à l’assistant du jeu Path of Exile.
Cette combinaison, poids libres et permissifs, coût d’inférence tiré par 21 milliards de paramètres, qualité jugée proche du haut de gamme, vise un endroit précis du marché : le milieu de gamme, là où les labos fermés facturent leurs API au token. Quand un modèle téléchargeable et modifiable rend un service comparable, l’argument commercial du propriétaire sur cette tranche s’érode. On assiste moins à une prouesse technique isolée qu’à un signal de maturité : l’open-weight venu de Chine, DeepSeek, Qwen, GLM et désormais Hy3, empile les sorties crédibles à un rythme qui banalise ce qui coûtait cher il y a un an.
Les 598 Go du modèle complet rappellent au passage qu’« ouvert » ne signifie pas « à portée de tous » : héberger Hy3 en production suppose une infrastructure que peu d’équipes possèdent en propre. La quantification FP8 et les hébergeurs tiers comblent l’écart, au prix d’une dépendance de plus. L’ouverture déplace la facture, elle ne l’efface pas.
Mon avis
Regardez le calendrier plutôt que la note de 2,67 : trois mois entre la préliminaire d’avril et une version qui divise ses hallucinations par deux, le tout sous Apache. C’est ce rythme qui devrait tenir les labos fermés éveillés. Je ne donne pas un an au milieu de gamme propriétaire, celui qu’on loue au token, avant qu’il perde son dernier argument défendable. La valeur migre vers ceux qui savent faire tourner ces poids ouverts en production, pas vers ceux qui se contentent de les facturer.
