PrismML traz seus pequenos LLMs para óculos inteligentes com chips Qualcomm
techcrunch ·
A PrismML, um laboratório de IA fundado por pesquisadores do Caltech e orientado por Ion Stoica da UC Berkeley, desenvolveu uma versão de seus pequenos modelos de linguagem para óculos inteligentes alimentados por chips da Qualcomm. Durante o Snapdragon Summit da empresa, foi apresentado o Bonsai LLM de 1 bit da PrismML, capaz de ser executado localmente em dispositivos que utilizam a Plataforma Snapdragon AR1 Gen 1. A PrismML é especializada em reduzir significativamente o tamanho de grandes modelos, mantendo alto desempenho em benchmarks padrão; este modelo específico possui dois bilhões de parâmetros ajustados para tarefas de visão e linguagem. Essa tecnologia permite que os usuários recebam respostas em tempo real sobre o que estão observando diretamente em seus dispositivos vestíveis. A startup visa promover uma IA de pesos abertos que opere no dispositivo, oferecendo uma alternativa aos laboratórios proprietários que exigem recursos computacionais massivos. Ao lançar um modelo otimizado para o hardware da Qualcomm, a PrismML avança em sua visão de utilizar de forma mais eficaz o poder de processamento dos dispositivos existentes. No entanto, até o anúncio, nenhum produto específico de óculos inteligentes com a tecnologia da PrismML havia sido oficialmente lançado.
techcrunch