PrismML адаптирует свои маленькие LLM для умных очков на базе чипов Qualcomm
techcrunch ·
Лаборатория искусственного интеллекта PrismML, основанная исследователями Калифорнийского технологического института и получающая консультации от Иона Стойцы из Калифорнийского университета в Беркли, разработала версию своих миниатюрных языковых моделей для умных очков на базе чипов Qualcomm. На конференции Snapdragon Summit компания представила свою 1-битную модель Bonsai LLM, способную работать локально на устройствах с платформой Snapdragon AR1 Gen 1. PrismML специализируется на значительном сокращении размеров больших моделей при сохранении высокой производительности по стандартным тестам; данная конкретная модель содержит два миллиарда параметров и оптимизирована для задач компьютерного зрения и обработки языка. Эта технология позволяет пользователям получать ответы в реальном времени о том, на что они смотрят, непосредственно на носимых устройствах. Стартап стремится продвигать открытый весовой ИИ, работающий на устройстве, предлагая альтернативу проприетарным лабораториям, требующим огромных вычислительных ресурсов. Выпустив модель, оптимизированную под оборудование Qualcomm, PrismML продвигает свое видение более эффективного использования вычислительной мощности существующих устройств. Однако на момент объявления о запуске никаких конкретных продуктов умных очков с технологией PrismML официально еще не представлено.
techcrunch