介绍 Reflection Beam:AWS 上用于智能体编码的开源权重模型
aws ·
Reflection AI 推出了 Reflection Beam,这是一款专为智能体编码和长周期任务(如代码维护和多步工作流)设计的开源权重模型。该模型采用稀疏混合专家架构,总参数量为 5010 亿,激活参数量为 230 亿,支持一百万 token 的有效上下文长度。Beam 以 Apache 2.0 许可证发布,提供 BF16、FP8 和 NVFP4 三种检查点变体,以适应不同的内存和硬件需求。AWS 提供了多种部署路径:首先是通过 Amazon SageMaker JumpStart 提供完全托管的实时端点;对于需要 Kubernetes 原生控制的用户,Amazon SageMaker HyperPod Inference 支持与 SGLang 或 vLLM 运行时集成。这些选项使开发人员能够根据特定的并发性和延迟目标管理分布式 GPU 基础设施、缓存和扩展。在发布时,该模型可通过美国东部地区的 SageMaker JumpStart 访问,允许研究人员和开发人员自定义运行时环境。
aws