PrismML porta i suoi piccoli LLM sugli occhiali intelligenti con chip Qualcomm
techcrunch ·
PrismML, un laboratorio di intelligenza artificiale fondato da ricercatori del Caltech e con il consiglio di Ion Stoica dell'UC Berkeley, ha sviluppato una versione dei suoi piccoli modelli linguistici per occhiali intelligenti alimentati da chip Qualcomm. Durante il Snapdragon Summit di Qualcomm, l'azienda ha presentato il suo Bonsai LLM a 1 bit, in grado di funzionare localmente sui dispositivi che utilizzano la piattaforma Snapdragon AR1 Gen 1. PrismML si specializza nel ridurre significativamente le dimensioni dei grandi modelli mantenendo alte prestazioni nei benchmark standard; questo modello specifico contiene due miliardi di parametri ottimizzati per compiti di visione e linguaggio. Questa tecnologia consente agli utenti di ricevere risposte in tempo reale su ciò che stanno osservando direttamente sui loro dispositivi indossabili. La startup mira a promuovere un'intelligenza artificiale open-weight che operi sul dispositivo, offrendo un'alternativa ai laboratori proprietari che richiedono enormi risorse computazionali. Rilasciando un modello ottimizzato per l'hardware di Qualcomm, PrismML avanza nella sua visione di utilizzare in modo più efficace la potenza di calcolo dei dispositivi esistenti. Tuttavia, al momento dell'annuncio, nessun prodotto specifico di occhiali intelligenti basato sulla tecnologia PrismML è stato ancora lanciato ufficialmente.
techcrunch