Présentation de Reflection Beam : un modèle open-weight pour le codage agentique sur AWS
aws ·
Reflection AI a présenté Reflection Beam, un modèle à poids ouverts conçu pour le codage agentique et les tâches sur le long terme, telles que la maintenance du code et les workflows multi-étapes. Le modèle repose sur une architecture sparse mixture-of-experts comptant 501 milliards de paramètres au total et 23 milliards de paramètres actifs, tout en prenant en charge une longueur de contexte effective d'un million de tokens. Publiés sous licence Apache 2.0, les variantes de points de contrôle BF16, FP8 et NVFP4 de Beam sont disponibles pour répondre à diverses exigences en matière de mémoire et de matériel. AWS propose plusieurs voies de déploiement, à commencer par Amazon SageMaker JumpStart pour des points de terminaison en temps réel entièrement gérés. Pour les utilisateurs nécessitant un contrôle natif Kubernetes, Amazon SageMaker HyperPod Inference offre une intégration avec les environnements d'exécution SGLang ou vLLM. Ces options permettent aux développeurs de gérer l'infrastructure GPU distribuée, la mise en cache et la mise à l'échelle en fonction de leurs objectifs spécifiques en termes de concurrence et de latence. Au lancement, le modèle est accessible via SageMaker JumpStart dans les régions US East, permettant tant aux chercheurs qu'aux développeurs de personnaliser les environnements d'exécution.
aws