Представляем Reflection Beam: модель с открытыми весами для агентного программирования на AWS
aws ·
Компания Reflection AI представила модель Reflection Beam — модель с открытыми весами, предназначенную для агентного программирования и задач с длительным горизонтом планирования, таких как поддержка кода и многоэтапные рабочие процессы. Модель построена на основе архитектуры разреженного смешения экспертов (sparse mixture-of-experts) и содержит 501 миллиард общих параметров, из которых активными являются 23 миллиарда; она поддерживает эффективную длину контекста в один миллион токенов. Выпущенная под лицензией Apache 2.0, версия Beam доступна в вариантах чекпоинтов BF16, FP8 и NVFP4, что позволяет адаптироваться к различным требованиям к памяти и аппаратному обеспечению. AWS предлагает несколько путей развертывания: начиная с Amazon SageMaker JumpStart для полностью управляемых конечных точек реального времени. Для пользователей, нуждающихся в нативном управлении через Kubernetes, сервис Amazon SageMaker HyperPod Inference обеспечивает интеграцию с рантаймами SGLang или vLLM. Эти опции позволяют разработчикам управлять распределенной GPU-инфраструктурой, кэшированием и масштабированием в соответствии с конкретными целями по конкурентности и задержкам. На момент запуска модель доступна через SageMaker JumpStart в регионах US East, что дает исследователям и разработчикам возможность настраивать среды выполнения.
aws