Meta的Muse Spark Open现已在Amazon SageMaker JumpStart中提供
aws ·
Meta的Muse Spark Open(一种针对代码优化的开源权重模型)现已在Amazon SageMaker JumpStart中提供。该模型基于真实开发者工作流训练,采用混合专家架构,总参数量达8160亿,支持一百万个token的上下文窗口。它在SageMaker中提供两种变体:BF16和NVFP4量化版,两者在内存需求和实例选择上存在显著差异。NVFP4变体可在ml.p5e.48xlarge实例上运行,而由于更高的内存需求,BF16变体需要ml.p6-b300.48xlarge实例。用户可以通过SageMaker Studio或SageMaker Python SDK部署该模型,在自己的AWS账户中创建端点,从而完全掌控安全性和基础设施。作为一种推理模型,它既能提供最终答案,也能提供详细的推理内容,适用于复杂的智能体编码任务。部署过程包括接受Meta的许可协议,并根据所选变体配置特定的计算资源。
aws