PrismML dédie ses petits LLM aux lunettes intelligentes sous puce Qualcomm
techcrunch ·
PrismML, un laboratoire d'IA fondé par des chercheurs du Caltech et conseillé par Ion Stoica de l'UC Berkeley, a développé une version de ses petits modèles de langage pour les lunettes connectées alimentées par des puces Qualcomm. Lors du Snapdragon Summit de Qualcomm, l'entreprise a présenté son LLM Bonsai en 1 bit, capable de fonctionner localement sur des appareils utilisant la plateforme Snapdragon AR1 Gen 1. PrismML se spécialise dans la réduction significative des grands modèles tout en maintenant des performances élevées sur les benchmarks standards, ce modèle spécifique comportant deux milliards de paramètres étant optimisé pour les tâches de vision et de langage. Cette technologie permet aux utilisateurs de recevoir des réponses en temps réel concernant ce qu'ils regardent directement sur leurs dispositifs portables. La startup vise à promouvoir une IA à poids ouverts fonctionnant sur l'appareil, offrant une alternative aux laboratoires propriétaires qui nécessitent d'immenses ressources informatiques. En publiant un modèle optimisé pour le matériel de Qualcomm, PrismML avance sa vision d'une utilisation plus efficace de la puissance de calcul des dispositifs existants. Cependant, à la date de l'annonce, aucun produit de lunettes connectées spécifique intégrant la technologie PrismML n'a encore été officiellement lancé.
techcrunch