Benvenuto Muse Spark Open: modello misto di esperti multimodale open-weight di Meta
huggingface ·
Meta ha rilasciato Muse Spark Open, un modello multimodale di frontiera a pesi aperti che utilizza un'architettura mixture-of-experts con circa 816 miliardi di parametri totali e 42 miliardi di parametri attivi per token. Progettato principalmente per attività di codifica agentic, il modello supporta input testuali, immagini, audio e video all'interno di una finestra di contesto fino a un milione di token. Utilizza un encoder di percezione specializzato per i dati visivi e un encoder audio convoluzionale per elaborare diversi tipi di media insieme al testo. Il rilascio include formati di checkpoint BF16 e NVFP4, consentendo la distribuzione su varie configurazioni hardware, tra cui GPU NVIDIA Blackwell e Apple Silicon tramite quantizzazione. L'inferenza è supportata da diversi framework come Transformers, llama.cpp, SGLang, vLLM e MLX, offrendo flessibilità per diversi casi d'uso. Inoltre, l'articolo dettagliano le capacità di fine-tuning utilizzando la libreria TRL e dimostra applicazioni pratiche come la generazione di asset 3D e agenti di automazione del browser. Questo rilascio segna un passo significativo nell'AI open-weight, fornendo agli sviluppatori uno strumento potente per il ragionamento e l'esecuzione complessi e multimodali.
huggingface