PrismML将其小型大语言模型引入高通智能眼镜
techcrunch ·
由加州理工学院研究人员创立、并得到加州大学伯克利分校Ion Stoica指导的AI实验室PrismML,已为其微型语言模型开发了适用于高通芯片驱动智能眼镜的版本。在高通骁龙峰会上,该公司展示了其1-bit Bonsai LLM,该模型能够在搭载骁龙AR1 Gen 1平台的设备上本地运行。PrismML专注于在保持标准基准测试高性能的同时大幅缩小大型模型规模,该特定模型包含20亿个参数,专为视觉和语言任务进行优化。这项技术使用户能够直接在可穿戴设备上获得关于其所见内容的实时答案。这家初创公司旨在推广可在设备端运行的开源权重AI,为那些需要巨大计算资源的专有实验室提供替代方案。通过发布针对高通硬件优化的模型,PrismML正在推进其更有效地利用现有设备算力的愿景。然而,截至公告发布时,尚未有搭载PrismML技术的特定智能眼镜产品正式推出。
techcrunch