Мультимодальные открытые модели принятия решений d1 для периферийных устройств
huggingface ·
Компания LiquidAI выпустила две модели принятия решений с открытым весом: d1-3B и экспериментальную d1-omni-600M, разработанные для эффективных вычислений на периферийных устройствах (edge computing). В отличие от традиционных генеративных моделей, которые последовательно генерируют токены, эти модели принимают решения за один прямой проход, что обеспечивает значительно более высокую скорость вывода. Модель d1-3B поддерживает ввод текста и изображений, тогда как d1-omni-600M обрабатывает мультимодальные данные, включая текст, изображения и аудио. Результаты бенчмарков показывают, что d1-3B достигает наивысшего показателя Decision Index среди моделей объемом менее 10 миллиардов параметров, превосходя такие крупные конкуренты, как Decider 35B-A3B. Что касается скорости, то d1-3B может отвечать на вопросы всего за 8 миллисекунд на мощных графических процессорах и менее чем за 50 миллисекунд на периферийных устройствах NVIDIA Jetson. Обе модели созданы на базе Liquid Foundation Models: d1-3B получена из архитектуры VLM только с декодером, а d1-omni-600M — из двунаправленной энкодерной архитектуры. Модели доступны для скачивания на платформе Hugging Face, что позволяет разработчикам интегрировать быстрые возможности структурированного принятия решений в свои приложения.
huggingface