Le modèle de diffusion Mercury 3 d'Inception prétend battre GPT-6 Luna et Claude Haiku 5.5 avec un temps d'attente réduit
decoder ·
La startup d'IA Inception a lancé Mercury 3, un modèle linguistique basé sur la diffusion qui prétend surpasser des concurrents tels que GPT-6 Luna et Claude Haiku 5.5 en vitesse et sur des benchmarks spécifiques. Contrairement aux modèles autoregressifs traditionnels qui génèrent du texte mot par mot, Mercury 3 affine simultanément une ébauche de l'intégralité de la réponse, lui permettant d'atteindre plus de 1 000 tokens par seconde sur les GPU Nvidia. Des tests internes indiquent que Mercury 3 arrive en tête sur huit des douze tests, affichant des avantages significatifs dans le respect des instructions et les tâches de codage autonome. Toutefois, ses rivaux conservent leurs atouts pour les défis de codage plus longs et la récupération d'informations au sein de textes volumineux. Le modèle est conçu pour des applications en temps réel telles que les agents IA, les lunettes intelligentes et le support client, où une faible latence est cruciale. Les premiers partenaires signalent des améliorations substantielles, avec des temps de réponse à la recherche sur les lunettes intelligentes passant de cinq secondes à moins d'une seconde. Bien que les tarifs de lancement soient actuellement réduits, les prix standards pourraient éventuellement dépasser ceux de certains concurrents pour les entrées courtes. Inception, soutenue par de grands investisseurs technologiques, présente cette architecture comme une alternative évolutive aux modèles linguistiques standard.
decoder