Modelli decisionali multimodali open d1 per l'edge
huggingface ·
LiquidAI ha rilasciato due modelli decisionali open-weight, d1-3B e l'sperimentale d1-omni-600M, progettati per un calcolo edge efficiente. A differenza dei tradizionali modelli generativi che producono token in sequenza, questi modelli decisionali forniscono risposte in un'unica passata forward, garantendo velocità di inferenza significativamente superiori. Il modello d1-3B supporta input testuali e immagini, mentre d1-omni-600M gestisce input multimodali, inclusi testo, immagini e audio. I benchmark indicano che d1-3B raggiunge il punteggio Decision Index più alto tra i modelli con meno di 10 miliardi di parametri, superando concorrenti più grandi come Decider 35B-A3B. Per quanto riguarda la velocità, d1-3B può rispondere alle domande in appena 8 millisecondi su GPU di fascia alta e in meno di 50 millisecondi sui dispositivi edge NVIDIA Jetson. Questi modelli sono basati sui Liquid Foundation Models: d1-3B deriva da una VLM decoder-only, mentre d1-omni-600M da un'architettura encoder bidirezionale. Entrambi i modelli sono disponibili per il download su Hugging Face, consentendo agli sviluppatori di integrare capacità decisionali rapide e strutturate nelle loro applicazioni.
huggingface