Muse Spark Open de Meta désormais disponible dans Amazon SageMaker JumpStart
aws ·
Le modèle open-weight Muse Spark Open de Meta, optimisé pour le codage, est désormais disponible dans Amazon SageMaker JumpStart. Entraîné sur des flux de travail réels de développeurs, il repose sur une architecture à mélange d'experts avec 816 milliards de paramètres au total et prend en charge une fenêtre de contexte d'un million de tokens. Deux variantes sont proposées dans SageMaker : BF16 et NVFP4 quantifié, qui diffèrent considérablement par leurs besoins en mémoire et les instances requises. La variante NVFP4 s'exécute sur des instances ml.p5e.48xlarge, tandis que la variante BF16 nécessite des instances ml.p6-b300.48xlarge en raison de ses exigences mémoire plus élevées. Les utilisateurs peuvent déployer le modèle via SageMaker Studio ou le SDK Python SageMaker, en créant des points de terminaison dans leurs propres comptes AWS pour un contrôle total sur la sécurité et l'infrastructure. En tant que modèle de raisonnement, il fournit à la fois les réponses finales et un contenu de raisonnement détaillé, ce qui le rend adapté aux tâches complexes de codage agentique. Le déploiement implique l'acceptation du contrat de licence de Meta et la configuration de ressources informatiques spécifiques en fonction de la variante choisie.
aws