O Nemotron 3.5 Super VL da Nvidia é um modelo aberto projetado para executar agentes de IA corporativos sem parar
decoder ·
A Nvidia lançou o Nemotron 3.5 Super VL, um modelo multimodal aberto com 120 bilhões de parâmetros, projetado para tarefas contínuas de agentes de IA empresariais. Construído com uma arquitetura Mixture-of-Experts (MoE), o modelo ativa apenas 12 bilhões de parâmetros por token para otimizar a eficiência ao processar texto, imagens e documentos. A empresa também apresentou duas variantes menores da linha Bolt: uma versão 74B-A9B para máquinas locais com 24 GB de memória e um modelo compacto de 4 GB voltado para assistentes de voz. A Nvidia afirma que o Super VL iguala a precisão de seu predecessor maior, o Ultra, mas opera com um quinto dos parâmetros e com taxa de transferência significativamente mais alta em hardware da Nvidia. Para melhorar o desempenho, a empresa utiliza técnicas de compressão de 4 bits e cache que reduzem a latência e permitem que o modelo atenda a um número maior de usuários simultâneos. Adotantes iniciais nos setores de finanças e cibersegurança já estão ajustando o modelo para casos de uso específicos, como detecção de fraudes e análise de vulnerabilidades. Embora os pesos e os conjuntos de dados de treinamento estejam abertamente disponíveis, os modelos permanecem fortemente otimizados para os chips e sistemas proprietários da Nvidia.
decoder