EmbeddingGemma 2: un modello di embedding multimodale aperto e leggero
deepmind ·
Google DeepMind ha lanciato EmbeddingGemma 2, un modello di embedding multimodale open-source progettato per l'elaborazione efficiente sui dispositivi. Costruito sull'architettura Gemma 4 con 740 milioni di parametri, mappa nativamente testo, immagini, audio e video in uno spazio di embedding unificato. Il modello raggiunge prestazioni leader tra quelli con meno di 1 miliardo di parametri, migliorando significativamente la comprensione del codice mantenendo al contempo un'elevata qualità per i compiti di visione e audio. Offre opzioni di design modulare, consentendo agli sviluppatori di utilizzare conteggi di parametri inferiori per carichi di lavoro specifici come il solo testo. L'efficienza di archiviazione è potenziata dall'apprendimento delle rappresentazioni Matryoshka (Matryoshka Representation Learning), che consente la troncatura dinamica dei vettori per ridurre l'utilizzo della memoria. Ottimizzato per l'hardware edge, il modello funziona su dispositivi come il Google Pixel 11 Pro con requisiti minimi di RAM. Grazie a una finestra di contesto da 8K token, può elaborare grandi quantità di contenuti multimediali direttamente su hardware locale senza dipendere dal cloud. Questo rilascio supporta applicazioni incentrate sulla privacy, abilitando la ricerca semantica offline e pipeline di generazione aumentata con recupero (RAG).
deepmind