Google affirme qu'EmbeddingGemma 2 surpasse les modèles d'incorporation rivaux deux fois plus grands
decoder ·
Google a publié EmbeddingGemma 2, un modèle open source conçu pour convertir du texte, des images, de la vidéo, de l'audio et du code en vecteurs numériques afin de faciliter leur comparaison. Avec ses 740 millions de paramètres, il est décrit comme le modèle le plus compact de sa catégorie tout en surpassant les concurrents deux fois plus volumineux sur les benchmarks multimodaux. Le modèle a obtenu un score de 78,68 au Massive Text Embedding Benchmark for Code, marquant une amélioration significative par rapport à son prédécesseur. Il fonctionne localement sans nécessiter de clé API, en utilisant WebGPU dans le navigateur avec des temps de requête compris entre 20 et 70 millisecondes. Le système nécessite seulement environ 191 Mo de RAM et peut réduire le stockage local des bases de données vectorielles jusqu'à six fois. Pour des tâches plus simples limitées au texte uniquement, une version plus petite de 270 millions de paramètres est disponible. Associé à des modèles tels que Gemma 4, il permet des applications d'interrogation augmentée (RAG) hors ligne sans envoyer de données vers des serveurs externes. Les poids et la documentation sont actuellement disponibles sur Hugging Face et Kaggle.
decoder