EmbeddingGemma 2: un modelo de incrustación multimodal abierto y ligero
deepmind ·
Google DeepMind ha lanzado EmbeddingGemma 2, un modelo de incrustación multimodal de código abierto diseñado para el procesamiento eficiente en dispositivos. Basado en la arquitectura Gemma 4 con 740 millones de parámetros, mapea nativamente texto, imágenes, audio y video en un espacio de incrustación unificado. El modelo logra un rendimiento líder entre los modelos de menos de mil millones de parámetros, mejorando significativamente la comprensión de código mientras mantiene una alta calidad para tareas de visión y audio. Cuenta con opciones de diseño modular que permiten a los desarrolladores utilizar menores cantidades de parámetros para modalidades específicas, como cargas de trabajo solo de texto. La eficiencia del almacenamiento se ve reforzada mediante el Aprendizaje de Representaciones Matryoshka, que permite la truncamiento dinámico de vectores para reducir el uso de memoria. Optimizado para hardware de borde, el modelo funciona en dispositivos como el Google Pixel 11 Pro con requisitos mínimos de RAM. Con una ventana de contexto de 8K tokens, puede procesar grandes cantidades de medios directamente en hardware local sin depender de la nube. Este lanzamiento admite aplicaciones centradas en la privacidad al permitir búsquedas semánticas fuera de línea y flujos de trabajo de generación aumentada por recuperación.
deepmind