Bienvenido Muse Spark Open: modelo multimodal de mezcla de expertos de peso abierto de Meta
huggingface ·
Meta ha lanzado Muse Spark Open, un modelo multimodal de vanguardia con pesos abiertos que cuenta con una arquitectura de mezcla de expertos y aproximadamente 816 mil millones de parámetros totales, con 42 mil millones de parámetros activos por token. Diseñado principalmente para tareas de codificación agéntica, el modelo admite entradas de texto, imagen, audio y video en una ventana de contexto de hasta un millón de tokens. Utiliza un codificador de percepción especializado para datos visuales y un codificador de audio convolucional para procesar diversos tipos de medios junto con texto. El lanzamiento incluye formatos de puntos de control BF16 y NVFP4, lo que permite su implementación en diversas configuraciones de hardware, incluidas las GPU NVIDIA Blackwell y Apple Silicon mediante cuantización. La inferencia es compatible con varios marcos de trabajo como Transformers, llama.cpp, SGLang, vLLM y MLX, ofreciendo flexibilidad para diferentes casos de uso. Además, el artículo detalla las capacidades de ajuste fino utilizando la biblioteca TRL y demuestra aplicaciones prácticas como la generación de activos 3D y agentes de automatización de navegadores. Este lanzamiento marca un paso significativo en la IA de pesos abiertos al proporcionar a los desarrolladores una herramienta poderosa para el razonamiento y la ejecución complejos y multimodales.
huggingface