Muse Spark Open de Meta ya disponible en Amazon SageMaker JumpStart
aws ·
Muse Spark Open de Meta, un modelo abierto optimizado para codificación con pesos abiertos, ya está disponible en Amazon SageMaker JumpStart. Entrenado con flujos de trabajo reales de desarrolladores, el modelo cuenta con una arquitectura de mezcla de expertos que suma 816 mil millones de parámetros y admite una ventana de contexto de un millón de tokens. Ofrece dos variantes en SageMaker: BF16 y NVFP4 cuantizada, las cuales difieren significativamente en los requisitos de memoria y en la selección de instancias. La variante NVFP4 se ejecuta en instancias ml.p5e.48xlarge, mientras que la variante BF16 requiere instancias ml.p6-b300.48xlarge debido a mayores necesidades de memoria. Los usuarios pueden implementar el modelo mediante SageMaker Studio o el SDK de Python de SageMaker, creando puntos finales dentro de sus propias cuentas de AWS para tener un control total sobre la seguridad y la infraestructura. Como modelo de razonamiento, proporciona tanto respuestas finales como contenido detallado del razonamiento, lo que lo hace adecuado para tareas complejas de codificación agéntica. El despliegue implica aceptar el acuerdo de licencia de Meta y configurar recursos de computación específicos según la variante elegida.
aws