EmbeddingGemma 2 : un modèle d'incorporation multimodal ouvert et léger
deepmind ·
Google DeepMind a lancé EmbeddingGemma 2, un modèle d'incorporation multimodale open source conçu pour un traitement efficace sur les appareils. Construit sur l'architecture Gemma 4 avec 740 millions de paramètres, il intègre nativement le texte, les images, l'audio et la vidéo dans un espace d'incorporation unifié. Le modèle affiche des performances de premier plan parmi les modèles de moins d'un milliard de paramètres, améliorant significativement la compréhension du code tout en maintenant une haute qualité pour les tâches visuelles et audio. Il propose des options de conception modulaire, permettant aux développeurs d'utiliser des nombres de paramètres plus réduits pour des charges de travail spécifiques au texte. L'efficacité du stockage est optimisée grâce à l'apprentissage par représentation Matryoshka, qui permet la troncature dynamique des vecteurs pour réduire l'utilisation de la mémoire. Optimisé pour le matériel edge, le modèle fonctionne sur des appareils tels que le Google Pixel 11 Pro avec des exigences minimales en RAM. Doté d'une fenêtre de contexte de 8 000 tokens, il peut traiter de grandes quantités de médias directement sur le matériel local sans dépendre du cloud. Cette version prend en charge les applications axées sur la confidentialité en permettant la recherche sémantique hors ligne et les pipelines de génération augmentée par récupération.
deepmind