Inception的Mercury 3扩散模型声称以极短的等待时间超越GPT-6 Luna和Claude Haiku 5.5
decoder ·
AI初创公司Inception发布了基于扩散模型的Mercury 3,声称其在速度和特定基准测试中优于GPT-6 Luna和Claude Haiku 5.5等竞争对手。与传统逐词生成文本的自回归模型不同,Mercury 3同时优化整个回复的粗略草稿,从而在Nvidia GPU上实现每秒超过1,000个token的处理速度。内部测试显示,Mercury 3在12项测试中的8项中领先,在指令遵循和自主编码任务方面表现出显著优势。然而,竞争对手在较长的编码挑战和长文本信息检索方面仍具优势。该模型专为对低延迟要求极高的实时应用(如AI代理、智能眼镜和客户服务)而设计。早期合作伙伴报告称性能大幅提升,智能眼镜上的搜索响应时间从五秒缩短至一秒以内。虽然目前发布价格享有折扣,但标准费率未来可能高于部分竞争对手针对短输入设定的价格。Inception由主要科技投资者支持,将此架构定位为可扩展的标准语言模型替代方案。
decoder