Google DeepMind hat EmbeddingGemma 2 vorgestellt. Das offene, leichtgewichtige multimodale Embedding-Modell ist speziell für den Einsatz auf Endgeräten konzipiert.

Technische Architektur

EmbeddingGemma 2 wandelt Text einschließlich Code, Bilder, Audio und Video in einen einheitlichen 768-dimensionalen Vektorraum um. Dadurch wird semantische Suche und Retrieval über Modalitäten hinweg direkt auf dem Gerät möglich.

Das Modell verfügt über insgesamt 740 Millionen Parameter und ist modular aufgebaut: 270 Millionen für Text und Code, 170 Millionen für Vision sowie 300 Millionen für Audio. Entwickler können nur die benötigten Encoder laden.

Es basiert auf der Gemma-4-Architektur und teilt den Text-Tokenisierer sowie den Audio-Encoder mit Gemma 4, um Speicher effizienter zu nutzen.

Leistung und Effizienz

Auf einem Google Pixel 11 Pro benötigt das Modell etwa 191 MB aktiven RAM für reine Textaufgaben und etwa 567 MB für die volle multimodale Funktionalität.

Das Kontextfenster beträgt 8.192 Tokens – viermal größer als beim Vorgänger EmbeddingGemma 1. Es unterstützt damit bis zu 5,5 Minuten Audio, 29 Bilder oder 58 Videoframes.

Durch Matryoshka Representation Learning (MRL) lassen sich die Embeddings dynamisch auf 128, 256 oder 512 Dimensionen reduzieren. Dadurch sinkt der Speicherbedarf um bis zu das Sechsfache bei minimalem Qualitätsverlust.

EmbeddingGemma 2 übertrifft EmbeddingGemma 1 im Code-Bereich deutlich und gilt als leistungsfähigstes multimodales Embedding-Modell unter einer Milliarde Parameter für On-Device-Anwendungen.

Verfügbarkeit und Lizenz

Das Modell wird unter der kommerziell nutzbaren Apache 2.0 Lizenz veröffentlicht. Die Gewichte sind auf Hugging Face und Kaggle verfügbar. In den kommenden Wochen soll es auch als Dienst auf Android über ML Kit zugänglich werden.

Demonstrationen sind bereits in den Apps Google AI Edge Gallery (mobil) und Google AI Edge Foresight (Mac) verfügbar.

Quelle: Google DeepMind

FAQ

Was ist das zentrale Feature von EmbeddingGemma 2?
Es vereint Text, Code, Bilder, Audio und Video in einem einzigen 768-dimensionalen Vektorraum für On-Device-Suche und Retrieval.

Wie hoch ist der Speicherbedarf auf einem aktuellen Pixel-Gerät?
Für reine Textaufgaben etwa 191 MB, für volle multimodale Nutzung etwa 567 MB aktiver RAM.

Ist das Modell für Sicherheits- oder Moderationsaufgaben optimiert?
Nein. Es wurde nicht für Sicherheit oder Ausgabemoderation feinabgestimmt. Entwickler müssen eigene Schutzmaßnahmen implementieren.