Modèles de décision multimodaux ouverts d1 pour l'edge
huggingface ·
LiquidAI a publié deux modèles de décision à poids ouverts, d1-3B et le modèle expérimental d1-omni-600M, conçus pour un calcul efficace en périphérie (edge). Contrairement aux modèles génératifs traditionnels qui produisent des tokens séquentiellement, ces modèles de décision fournissent des réponses en un seul passage avant, garantissant des vitesses d'inférence nettement plus rapides. Le modèle d1-3B prend en charge les entrées textuelles et image, tandis que d1-omni-600M gère des entrées multimodales incluant texte, images et audio. Les benchmarks indiquent que d1-3B obtient le score Decision Index le plus élevé parmi les modèles de moins de 10 milliards de paramètres, surpassant des concurrents plus volumineux comme Decider 35B-A3B. En termes de vitesse, d1-3B peut répondre à des questions en aussi peu que 8 millisecondes sur des GPU haut de gamme et en moins de 50 millisecondes sur des appareils edge NVIDIA Jetson. Ces modèles sont construits à partir des Liquid Foundation Models : d1-3B est dérivé d'un VLM à architecture uniquement décodeur, et d1-omni-600M d'une architecture à encodeur bidirectionnel. Les deux modèles sont disponibles au téléchargement sur Hugging Face, permettant aux développeurs d'intégrer des capacités de prise de décision rapide et structurée dans leurs applications.
huggingface