PrismML lleva sus pequeños LLM a las gafas inteligentes con tecnología Qualcomm
techcrunch ·
PrismML, un laboratorio de inteligencia artificial fundado por investigadores del Caltech y asesorado por Ion Stoica de la UC Berkeley, ha desarrollado una versión de sus pequeños modelos de lenguaje para gafas inteligentes alimentadas por chips de Qualcomm. Durante el Snapdragon Summit de Qualcomm, la empresa presentó su Bonsai LLM de 1 bit, capaz de ejecutarse localmente en dispositivos que utilizan la plataforma Snapdragon AR1 Gen 1. PrismML se especializa en reducir significativamente los modelos grandes mientras mantiene un alto rendimiento en pruebas estándar, con este modelo específico que contiene dos mil millones de parámetros ajustados para tareas de visión y lenguaje. Esta tecnología permite a los usuarios recibir respuestas en tiempo real sobre lo que están mirando directamente en sus dispositivos portátiles. La startup busca promover una IA de pesos abiertos que funcione en el dispositivo, ofreciendo una alternativa a los laboratorios propietarios que requieren enormes recursos computacionales. Al lanzar un modelo optimizado para el hardware de Qualcomm, PrismML avanza en su visión de utilizar de manera más efectiva la capacidad de procesamiento existente de los dispositivos. Sin embargo, hasta el momento del anuncio, no se han lanzado oficialmente productos específicos de gafas inteligentes que incorporen la tecnología de PrismML.
techcrunch