使用LFM3构建专用多模态模型
huggingface ·
LiquidAI推出了LFM3，这是一代旨在作为专用多模态智能共享主干的Liquid基础模型。该架构将文本、视觉、音频、全模态和决策能力整合到六个不同的模型中，参数量均在20亿左右。底层模型LFM3-1.7B-Base采用三层混合层结构和硬件在环搜索技术，使其表达能力更强，且参数量比前代LFM2.5减少了35%。这些模型针对边缘部署进行了优化，具有低延迟推理、小内存占用以及对长达256K令牌上下文窗口的支持。主要发布版本包括用于代理任务的LFM3-1.7B、用于视觉理解的LFM3-VL-2B以及用于集成音视频交互的LFM3-Omni-2B。此外，d1系列为需要校准答案而非生成文本的应用提供了快速的结构化决策能力。所有模型均为开放权重，可在单块GPU上进行微调，以适应特定领域、术语或机器人控制任务。
huggingface