面向边缘的多模态开源d1决策模型
huggingface ·
LiquidAI发布了两个用于高效边缘计算的开源权重决策模型:d1-3B和实验性的d1-omni-600M。与传统逐个生成标记的生成式模型不同,这些决策模型通过单次前向传播提供答案,从而显著提升了推理速度。d1-3B支持文本和图像输入,而d1-omni-600M则处理包括文本、图像和音频在内的多模态输入。基准测试显示,在参数量低于100亿的模型中,d1-3B取得了最高的“决策指数”(Decision Index)得分,超越了Decider 35B-A3B等更大的竞争对手。在速度方面,d1-3B在高端GPU上回答问题仅需8毫秒,在NVIDIA Jetson边缘设备上则不到50毫秒。这两个模型均基于Liquid基础模型构建,其中d1-3B源自仅解码器的视觉语言模型(VLM),而d1-omni-600M源自双向编码器架构。两款模型均可在Hugging Face上下载,使开发者能够将快速、结构化的决策能力集成到其应用中。
huggingface