Modelos de decisão multimodais abertos d1 para a borda
huggingface ·
A LiquidAI lançou dois modelos de decisão com pesos abertos, d1-3B e o experimental d1-omni-600M, projetados para computação eficiente na borda. Diferentemente dos modelos generativos tradicionais que produzem tokens sequencialmente, esses modelos de decisão fornecem respostas em uma única passagem direta, garantindo velocidades de inferência significativamente mais rápidas. O modelo d1-3B suporta entradas de texto e imagem, enquanto o d1-omni-600M lida com entradas multimodais, incluindo texto, imagens e áudio. Os benchmarks indicam que o d1-3B alcança a maior pontuação no Índice de Decisão entre modelos com menos de 10 bilhões de parâmetros, superando concorrentes maiores como o Decider 35B-A3B. Em termos de velocidade, o d1-3B pode responder a perguntas em tão pouco quanto 8 milissegundos em GPUs de alta gama e em menos de 50 milissegundos em dispositivos de borda NVIDIA Jetson. Esses modelos são construídos sobre os Modelos Base da Liquid, com o d1-3B derivado de um VLM (Vision-Language Model) apenas de decodificação e o d1-omni-600M de uma arquitetura de codificador bidirecional. Ambos os modelos estão disponíveis para download no Hugging Face, permitindo que desenvolvedores integrem capacidades rápidas e estruturadas de tomada de decisão em suas aplicações.
huggingface