欢迎使用 Muse Spark Open:Meta 发布的开源前沿多模态混合专家模型
huggingface ·
Meta发布了Muse Spark Open,这是一款开源权重的前沿多模态模型,采用混合专家架构,总参数量约为8160亿,每token激活参数为420亿。该模型主要面向智能体编码任务,支持在最多一百万个token的上下文窗口内处理文本、图像、音频和视频输入。它利用专用的视觉感知编码器和卷积音频编码器,将多种媒体类型与文本一同进行处理。此次发布提供了BF16和NVFP4检查点格式,支持通过量化技术在包括NVIDIA Blackwell GPU和Apple Silicon在内的各种硬件配置上部署。推理可通过Transformers、llama.cpp、SGLang、vLLM和MLX等多种框架实现,为不同用例提供灵活性。此外,文章详细介绍了使用TRL库进行微调的能力,并展示了3D资产生成和浏览器自动化智能体等实际应用。这一发布标志着开源权重AI的重要进展,为开发者提供了用于复杂多模态推理与执行的强大工具。
huggingface