Multimodale offene d1-Entscheidungsmodelle für den Edge-Bereich
huggingface ·
LiquidAI hat zwei Open-Weight-Entscheidungsmodelle, d1-3B und das experimentelle d1-omni-600M, veröffentlicht, die für effizientes Edge Computing konzipiert sind. Im Gegensatz zu herkömmlichen generativen Modellen, die Tokens sequenziell erzeugen, liefern diese Entscheidungsmodelle Antworten in einem einzigen Forward-Pass, was zu deutlich schnelleren Inferenzgeschwindigkeiten führt. Das Modell d1-3B unterstützt Text- und Bildeingaben, während d1-omni-600M multimodale Eingaben einschließlich Text, Bildern und Audio verarbeitet. Benchmarks zeigen, dass d1-3B unter den Modellen mit weniger als 10 Milliarden Parametern den höchsten Decision-Index-Score erreicht und damit größere Konkurrenten wie Decider 35B-A3B übertrifft. Was die Geschwindigkeit betrifft, kann d1-3B Fragen auf High-End-GPUs in nur 8 Millisekunden und auf NVIDIA Jetson Edge-Geräten in weniger als 50 Millisekunden beantworten. Diese Modelle basieren auf Liquid Foundation Models; d1-3B wurde von einem decoder-only-VLM abgeleitet, während d1-omni-600M auf einer bidirektionalen Encoder-Architektur basiert. Beide Modelle stehen zum Download auf Hugging Face zur Verfügung und ermöglichen es Entwicklern, schnelle, strukturierte Entscheidungsfähigkeiten in ihre Anwendungen zu integrieren.
huggingface