Einführung von Reflection Beam: ein Open-Weight-Modell für agentic Coding auf AWS
aws ·
Reflection AI hat Reflection Beam vorgestellt, ein Open-Weight-Modell, das für agentices Coding und langfristige Aufgaben wie Code-Wartung und mehrstufige Workflows konzipiert ist. Das Modell verfügt über eine sparse Mixture-of-Experts-Architektur mit insgesamt 501 Milliarden Parametern und 23 Milliarden aktiven Parametern sowie einer effektiven Kontextlänge von einer Million Tokens. Unter der Apache-2.0-Lizenz veröffentlicht, ist Beam in BF16-, FP8- und NVFP4-Checkpoint-Varianten erhältlich, um unterschiedliche Speicher- und Hardwareanforderungen zu erfüllen. AWS bietet mehrere Bereitstellungspfade an, beginnend mit Amazon SageMaker JumpStart für vollständig verwaltete Echtzeit-Endpunkte. Für Nutzer, die kubernetes-native Kontrolle benötigen, bietet Amazon SageMaker HyperPod Inference Integrationen mit SGLang- oder vLLM-Runtimes. Diese Optionen ermöglichen es Entwicklern, verteilte GPU-Infrastruktur, Caching und Skalierung entsprechend ihren spezifischen Anforderungen an Parallelität und Latenz zu verwalten. Bei der Einführung ist das Modell über SageMaker JumpStart in den US East-Regionen verfügbar, was sowohl Forschern als auch Entwicklern die Anpassung ihrer Runtime-Umgebungen ermöglicht.
aws