El Nemotron 3.5 Super VL de Nvidia es un modelo abierto diseñado para ejecutar agentes de IA empresariales sin interrupciones
decoder ·
Nvidia ha lanzado Nemotron 3.5 Super VL, un modelo multimodal abierto de 120 mil millones de parámetros diseñado para tareas continuas de agentes de IA empresariales. Construido con una arquitectura Mixture-of-Experts, el modelo activa solo 12 mil millones de parámetros por token para optimizar la eficiencia mientras procesa texto, imágenes y documentos. Nvidia también presentó dos variantes más pequeñas de Bolt: una versión 74B-A9B para máquinas locales con 24 GB de memoria y un modelo compacto de 4 GB dirigido a asistentes de voz. La empresa afirma que Super VL iguala la precisión de su predecesor Ultra, pero opera con una quinta parte de los parámetros y un rendimiento significativamente mayor en hardware de Nvidia. Para mejorar el rendimiento, Nvidia utiliza técnicas de compresión de 4 bits y almacenamiento en caché que reducen la latencia y permiten al modelo atender a más usuarios simultáneos. Los primeros adoptantes en los sectores financiero y de ciberseguridad ya están ajustando el modelo para casos de uso específicos, como la detección de fraude y el análisis de vulnerabilidades. Aunque las ponderaciones y los conjuntos de datos de entrenamiento están disponibles abiertamente, los modelos siguen estando altamente optimizados para los chips y sistemas propietarios de Nvidia.
decoder