PrismML intègre son LLM Bonsai 1 bit aux lunettes intelligentes IA propulsées par Qualcomm
aiinsider ·
PrismML, un laboratoire d'IA fondé par des chercheurs du Caltech et conseillé par Ion Stoica de l'UC Berkeley, a développé une version de ses petits modèles de langage conçue pour fonctionner sur des lunettes intelligentes alimentées par les puces Snapdragon de Qualcomm. L'entreprise a présenté son modèle Bonsai LLM en 1 bit lors du récent Snapdragon Summit, démontrant que le modèle peut s'exécuter localement sur des lunettes IA construites autour de la plateforme Snapdragon AR1 Gen 1. Cette itération spécifique est un modèle de 2 milliards de paramètres optimisé à la fois pour la vision et le langage, permettant aux utilisateurs de recevoir des réponses en temps réel concernant leur environnement visuel. PrismML est reconnu pour avoir réduit la taille des modèles plus volumineux par quatre tout en conservant presque toutes leurs performances sur les benchmarks standards. La startup vise à fournir une IA à poids ouverts qui s'exécute directement sur les appareils, afin de mieux utiliser la puissance de calcul existante sans dépendre de laboratoires propriétaires. Cette approche se positionne comme une alternative au recours aux promesses de confidentialité des grandes entreprises d'IA et à leur demande croissante en ressources de calcul. Bien que cette annonce de Qualcomm marque un progrès significatif vers cette vision, aucune paire de lunettes intelligentes exécutant le modèle de PrismML n'a encore été officiellement annoncée.
aiinsider