Tencent lance Hy3 en open source : 295 milliards de paramètres, mais 21 milliards activés

Tencent a publié Hy3, son grand modèle de langage, en open source sous licence Apache 2.0. Le groupe chinois met en ligne les poids du modèle, et ce n’est pas un détail : pour les développeurs comme pour les entreprises, ça ouvre la porte à un usage commercial, à des modifications et à de la redistribution partout dans le monde, sans dépendre d’un accès fermé ou bridé à ses services.

Sur le plan technique, Hy3 compte 295 milliards de paramètres, mais n’en active qu’environ 21 milliards à chaque requête. Tencent s’appuie ici sur une architecture de type « Mixture-of-Experts », censée mieux équilibrer la puissance du modèle, le coût de l’inférence et les contraintes de déploiement.

La société présente cette version finale comme une vraie montée en gamme par rapport à la préversion diffusée en avril. Trois points sont mis en avant : une meilleure stabilité, des coûts mieux tenus et des performances globales en hausse. Tencent dit avoir récupéré les retours de plus de 50 équipes internes avant d’aboutir à une mouture pensée pour des usages concrets, pas juste pour bien figurer dans les benchmarks.

Autre élément mis en avant, la fenêtre de contexte de 256 000 tokens. En pratique, le modèle peut ingérer d’un seul coup de très gros volumes de texte : documents longs, historiques de conversation étendus, workflows en plusieurs étapes ou bases de connaissances plus volumineuses.

Pour des usages grand public aussi bien que professionnels, ça change pas mal de choses. Le modèle peut garder davantage de mémoire au fil d’un échange, résumer de longs rapports et travailler à partir de plusieurs sources sans forcer à découper les contenus en morceaux trop petits.

Le choix du Mixture-of-Experts répond aussi à une question très terre à terre : la facture en production. Hy3 n’active qu’une partie de ses 295 milliards de paramètres au lieu de mobiliser l’ensemble à chaque tâche, avec l’idée d’aller chercher des performances comparables à celles de modèles denses bien plus coûteux à faire tourner.

Tencent dit aussi avoir fait progresser la fiabilité depuis la préversion. Le taux d’hallucinations serait tombé de 12,5 % à 5,4 %, et les erreurs de raisonnement élémentaire auraient, de leur côté, reculé de 25,4 % à 12,7 %.

Le groupe ajoute enfin que Hy3 tourne déjà dans plusieurs de ses produits, notamment WorkBuddy, Yuanbao, des assistants intégrés à WeChat et le jeu Path of Exile: Advent. C’est un signal intéressant.

Reste qu’il faut garder une certaine réserve. Le marché est déjà très chargé, avec des acteurs comme Zhipu AI, DeepSeek, Alibaba Qwen ou Mistral, et une bonne partie des chiffres avancés sur les performances vient encore des tests menés par Tencent lui-même. Les évaluations indépendantes vont donc compter, sans doute plus que le reste, pour savoir où Hy3 se situe vraiment dans la hiérarchie des modèles open source.