Muse Spark Open di Meta ora disponibile in Amazon SageMaker JumpStart
aws ·
Muse Spark Open di Meta, un modello open-weight ottimizzato per la programmazione, è ora disponibile in Amazon SageMaker JumpStart. Addestrato su flussi di lavoro reali degli sviluppatori, il modello presenta un'architettura a mixture-of-experts con 816 miliardi di parametri totali e supporta una finestra di contesto di un milione di token. Offre due varianti in SageMaker: BF16 e NVFP4 quantizzata, che differiscono significativamente nei requisiti di memoria e nella selezione delle istanze. La variante NVFP4 funziona sulle istanze ml.p5e.48xlarge, mentre la variante BF16 richiede le istanze ml.p6-b300.48xlarge a causa dei maggiori bisogni di memoria. Gli utenti possono distribuire il modello tramite SageMaker Studio o l'SDK Python di SageMaker, creando endpoint all'interno dei propri account AWS per un controllo completo su sicurezza e infrastruttura. Come modello di ragionamento, fornisce sia risposte finali sia contenuti di ragionamento dettagliati, rendendolo adatto per attività di coding agentic complesse. La distribuzione prevede l'accettazione dell'accordo di licenza di Meta e la configurazione di risorse di calcolo specifiche in base alla variante scelta.
aws