Modelos de decisión multimodales abiertos d1 para el borde
huggingface ·
LiquidAI ha lanzado dos modelos de decisión de pesos abiertos, d1-3B y el experimental d1-omni-600M, diseñados para la computación eficiente en el borde. A diferencia de los modelos generativos tradicionales que producen tokens secuencialmente, estos modelos de decisión proporcionan respuestas en una sola pasada hacia adelante, lo que garantiza velocidades de inferencia significativamente más rápidas. El modelo d1-3B admite entradas de texto e imagen, mientras que d1-omni-600M maneja entradas multimodales que incluyen texto, imágenes y audio. Los benchmarks indican que d1-3B alcanza la puntuación Decision Index más alta entre los modelos con menos de 10 mil millones de parámetros, superando a competidores más grandes como Decider 35B-A3B. En términos de velocidad, d1-3B puede responder preguntas en tan solo 8 milisegundos en GPUs de gama alta y en menos de 50 milisegundos en dispositivos de borde NVIDIA Jetson. Estos modelos están construidos sobre Liquid Foundation Models; d1-3B se deriva de un VLM solo de decodificador y d1-omni-600M de una arquitectura de codificador bidireccional. Ambos modelos están disponibles para descargar en Hugging Face, permitiendo a los desarrolladores integrar capacidades rápidas y estructuradas de toma de decisiones en sus aplicaciones.
huggingface