EmbeddingGemma 2: Googles multimodales Embedding-Modell läuft lokal

Google DeepMind hat EmbeddingGemma 2 veröffentlicht, ein offenes Embedding-Modell auf Basis von Gemma 4. Es bildet Text, Code, Bilder, Video und Audio in einem gemeinsamen 768-dimensionalen Vektorraum ab und ist für Laptops und Smartphones gedacht.

Modell-Releases Selbst ausprobieren 15. Okt. 2026 3 Min. Lesezeit Quelle: Ollama-Bibliothek

Worum es geht

Google DeepMind hat EmbeddingGemma 2 veröffentlicht, ein offenes multimodales Embedding-Modell auf Basis der Gemma-4-Architektur. Ein Embedding-Modell wandelt Eingaben in Zahlenlisten (Vektoren) um, sodass ähnliche Inhalte nahe beieinander liegen. Das ist die Grundlage für Suche, Klassifikation oder Clustering. EmbeddingGemma 2 ist in der Ollama-Bibliothek verfügbar (ollama run embeddinggemma-2), in den Größen 270m, 440m, 570m und 740m.

Aufbau und Fähigkeiten

Das Modell bildet Text (auch Code), Bilder, Video und Audio sowie Kombinationen davon in einem einzigen, gemeinsamen 768-dimensionalen Vektorraum ab. So kann man z. B. mit einem Text nach Bildern oder Audioclips suchen. Insgesamt hat es 740 Mio. Parameter (die beim Training gelernten Stellschrauben): ein 270M-Textmodell (130M Transformer plus 140M Embedder) sowie modulare Encoder für Vision (170M) und Audio (300M). Diese Encoder lassen sich selektiv laden, sodass man nur die Modalitäten nutzt, die man braucht. Das erklärt wohl auch die abgestuften Größen in Ollama; die Quelle erläutert die Zuordnung aber nicht.

Weitere Eigenschaften laut Google:

Versteht über 100 Sprachen und ist bei Code-Aufgaben etwa 14 % besser als der Vorgänger.
Kontextfenster von 8K Tokens; das reicht für Minuten an Audio oder Video.
Aufgabenabhängige Einbettungen über kurze Text-Präfixe (Anweisungen) für Suche, Klassifikation, Clustering oder semantische Ähnlichkeit.

Matryoshka-Kürzung

EmbeddingGemma 2 unterstützt Matryoshka Representation Learning (MRL): Wie bei russischen Puppen bleiben auch gekürzte Vektoren nutzbar. Man kann auf 128, 256 oder 512 Dimensionen kürzen und neu normalisieren. Das spart bis zu sechsfach Speicher für Vektordatenbanken. Laut Quelle sind die Qualitätseinbußen bis hinunter zu 256d minimal, 128d eignet sich am besten für reine Textaufgaben.

Benchmarks

Das Modell wurde auf Text-, Code-, Vision-, visuellen Dokument-, Video- und Audio-Benchmarks getestet, jeweils mit dem Full-Precision-Checkpoint. Die konkreten Zahlen aus den Tabellen liegen in der vorliegenden Quelle nicht vor, daher lassen sich keine Werte nennen. Alle Angaben stammen von Google.

Was du zum Ausprobieren brauchst

Google zielt auf Consumer-Hardware wie Smartphones und Laptops. Die kleinste Variante (270m) läuft auf normalen Laptops ohne dedizierte Grafikkarte; auch das 740m-Modell ist klein (unter 1 GB bei 4-bit plus Puffer). Ollama läuft auf Mac, Linux und Windows, auch CPU-only. Genaue Angaben nennt die Quelle nicht.

Einordnung

Ein einziges Modell für Text, Bild, Video und Audio vereinfacht multimodale Suche und RAG (Antworten mit Hilfe abgerufener Dokumente) erheblich, vor allem lokal und datenschutzfreundlich. Die kleine Größe und flexible Vektorlänge senken Kosten. Offen bleibt, wie gut es im Vergleich zu Konkurrenzmodellen abschneidet, da die Benchmark-Zahlen hier fehlen, und auch Lizenz und Details zur Nutzung in Ollama (Zuordnung der Größen) sind in der Quelle nicht genannt.

Quellen

Ollama-Bibliothek ollama.com

#embedding#gemma#google#multimodal#ollama

Originalquelle lesen

Selbst ausprobieren: EmbeddingGemma 2

Schritt für Schritt erklärt, auch ohne Vorkenntnisse – auf deinem Rechner oder kostenlos im Browser.

Was kann ich damit machen?

EmbeddingGemma 2 wandelt Text, Code, Bilder, Video und Audio in Vektoren um. Damit baust du lokal semantische Suche, RAG, Klassifikation oder Clustering, auch über verschiedene Medienarten hinweg.

Für wen lohnt es sich?

Gut für Entwickler, die lokale multimodale Suche oder RAG bauen wollen. Wer nur einen Chatbot sucht, braucht es nicht, da es keine Texte erzeugt.

Größe0,74 Mrd. Parameter

Download1,3 GB (bei 100 MBit/s ca. 2 Min.)

ArtEmbedding-Modell (für Suche)

Ollamaembeddinggemma-2

Was dein Rechner braucht

Grafikkarte (NVIDIA) mind. 2,5 GB VRAMfast jede Grafikkarte ab 4 GB (z. B. GTX 1650, RTX 3050)

Mac (Apple Silicon M1–M5) ab 8 GB gemeinsamer SpeicherGrafik und Prozessor teilen sich den Speicher – etwa 70 % davon kann das Modell nutzen

Nur Prozessor (ohne Grafikkarte) Ohne Grafikkarte flüssig nutzbargeschätzt 101 Wörter pro Sekunde auf einem aktuellen Desktop-PC. Dafür mindestens 8 GB Arbeitsspeicher.

Speicherplatz ca. 3,3 GB freiModell-Download plus Programme

Google Colab läuft kostenlosGratis-GPU Tesla T4 mit 15 GB reicht

Welche Variante passt zu mir?

Viele Modelle gibt es in mehreren Größen oder „Quantisierungen“. Das sind komprimierte Fassungen: kleiner und schneller, dafür minimal ungenauer. Faustregel: Nimm die größte Variante, deren Speicherbedarf in deinen Grafikspeicher (VRAM) passt. Die Skripte unten wählen das automatisch für dich aus.

Variante	Download	Braucht ca.	Passende Grafikkarten
`270m-bf16-text`	1,2 GB	2,5 GB	fast jede Grafikkarte ab 4 GB (z. B. GTX 1650, RTX 3050)
`270m` Standard	1,3 GB	2,5 GB	fast jede Grafikkarte ab 4 GB (z. B. GTX 1650, RTX 3050)
`740m-q8_0`	1,3 GB	2,5 GB	fast jede Grafikkarte ab 4 GB (z. B. GTX 1650, RTX 3050)
`740m-bf16`	1,5 GB	3 GB	fast jede Grafikkarte ab 4 GB (z. B. GTX 1650, RTX 3050)

Verfügbar sind 270m, 440m, 570m und 740m. Das 270m-Modell ist die Textbasis; größere Varianten enthalten laut Aufbau zusätzliche Vision- und Audio-Encoder. Die genaue Zuordnung nennt die Quelle nicht.

Gedacht für Laptops und mobile Geräte, kein großer VRAM nötig.
Vision- (170M) und Audio-Encoder (300M) sind selektiv ladbar, um Speicher zu sparen.
Kürzere Vektoren (z. B. 256d) senken Speicherbedarf in der Vektordatenbank bis zu 6x.
Kontext 8K Tokens.

Wie finde ich heraus, was mein Rechner hat?

Windows: Strg + Umschalt + Esc drücken → Task-Manager → Reiter Leistung → links GPU anklicken. Unten steht Dedizierter GPU-Speicher (das ist dein VRAM). Den Arbeitsspeicher findest du unter Arbeitsspeicher.
Mac: Apfel-Menü oben links → Über diesen Mac. Dort stehen Chip (z. B. M2) und Speicher (z. B. 16 GB). Bei Apple-Chips teilen sich Grafik und Prozessor diesen Speicher.
Linux: Im Terminal nvidia-smi eingeben (zeigt Grafikkarte und Speicher) und free -h für den Arbeitsspeicher.

Anleitung

Google Colab (im Browser, ohne Installation)

Google Colab ist ein kostenloser Dienst von Google: Du bekommst für ein paar Stunden einen Rechner mit Grafikkarte im Browser. Du brauchst nur ein Google-Konto. Für dieses Modell: läuft kostenlos – Gratis-GPU Tesla T4 mit 15 GB reicht.

Notebook herunterladen. Klick auf den Knopf und speichere die Datei.
colab.ipynb herunterladen
Colab öffnen. Geh auf colab.research.google.com und melde dich mit deinem Google-Konto an.
Notebook hochladen. Im Fenster, das erscheint, links auf Hochladen klicken (oder oben Datei → Notebook hochladen) und die Datei colab.ipynb auswählen.
Grafikkarte einschalten. Oben im Menü Laufzeit → Laufzeittyp ändern → bei Hardwarebeschleuniger T4-GPU auswählen → Speichern.
Alles starten. Laufzeit → Alle ausführen (Tastenkürzel Strg + F9). Kommt die Warnung „Dieses Notebook wurde nicht von Google erstellt“, auf Trotzdem ausführen klicken.
Warten. Die Zellen laufen nacheinander durch. Links neben jeder Zelle erscheint ein grüner Haken, wenn sie fertig ist. Installation und Download dauern hier etwa 4 Minuten.
Ausprobieren. Das Ergebnis steht unter der letzten Zelle. Um etwas anderes zu testen, den Text in der Zelle ändern und mit Shift + Enter erneut ausführen. Die letzte Zelle startet einen richtigen Chat mit Eingabefeld.
Aufräumen. Wenn du fertig bist: Laufzeit → Sitzung beenden. Das schont dein kostenloses Kontingent.

Gut zu wissen: Die Gratis-GPU ist begrenzt (meist einige Stunden am Tag). Nach rund 90 Minuten ohne Aktivität trennt Colab die Verbindung, dann alles neu starten.

Windows 10 / 11

Am einfachsten geht es mit Ollama, einem kostenlosen Programm, das KI-Modelle mit einem Befehl startet.

Grafikkartentreiber aktualisieren (nur bei NVIDIA-Karten): Die NVIDIA-App bzw. den aktuellen Treiber installieren. AMD-Karten: aktuellen Adrenalin-Treiber nutzen.
Ollama installieren. Auf ollama.com/download/windows die Datei OllamaSetup.exe herunterladen, doppelklicken und Install wählen. Danach sitzt rechts unten in der Taskleiste ein kleines Lama-Symbol.
Eingabefenster öffnen. Windows-Taste drücken, PowerShell eintippen und Enter drücken. Es öffnet sich ein blaues oder schwarzes Fenster.
Modell starten. Diesen Befehl kopieren (Knopf „Kopieren“), mit Rechtsklick ins Fenster einfügen und Enter drücken:
```
ollama run embeddinggemma-2:270m
```
Beim ersten Mal lädt Ollama das Modell herunter (1,3 GB (bei 100 MBit/s ca. 2 Min.)). Danach geht es sofort.
Losschreiben. Sobald >>> Send a message erscheint, deine Frage eintippen und Enter drücken. Mit /bye beendest du den Chat.

Zu wenig Speicher? Nimm eine kleinere Variante aus der Tabelle oben, z. B. ollama run embeddinggemma-2:270m-bf16-text.

Lieber automatisch? Skript, das die passende Variante selbst auswählt

Beide Dateien in denselben Ordner herunterladen: try_windows.ps1 demo.py
Den Ordner im Explorer öffnen, mit Rechtsklick auf eine freie Stelle In Terminal öffnen wählen.

Diesen Befehl einfügen und Enter drücken:

powershell -ExecutionPolicy Bypass -File try_windows.ps1

Das Skript installiert Ollama bei Bedarf über winget, misst deinen Grafikspeicher und lädt die passende Variante.

macOS

Ideal sind Macs mit Apple-Chip (M1 bis M5). Ältere Intel-Macs sind sehr langsam.

Ollama installieren. Auf ollama.com/download/mac herunterladen, die Datei öffnen und Ollama in den Ordner Programme ziehen. Ollama einmal starten – oben in der Menüleiste erscheint ein Lama.
Terminal öffnen. Cmd + Leertaste drücken, Terminal eintippen, Enter.
Modell starten. Befehl einfügen (Cmd + V) und Enter:
```
ollama run embeddinggemma-2:270m
```
Beim ersten Mal wird das Modell heruntergeladen (1,3 GB (bei 100 MBit/s ca. 2 Min.)).
Losschreiben. Frage eintippen, Enter. Mit /bye beenden.

Automatisch die passende Variante wählen

try_mac.sh

cd ~/Downloads
bash try_mac.sh

Linux

Grafikkarte prüfen. nvidia-smi sollte deine Karte anzeigen. Wenn nicht, unter Ubuntu den Treiber installieren und neu starten:
```
sudo ubuntu-drivers install
```

Ollama installieren:

curl -fsSL https://ollama.com/install.sh | sh

Modell starten:
```
ollama run embeddinggemma-2:270m
```
Mit /bye beenden. Mit ollama ps siehst du, ob das Modell auf der GPU läuft.
Oder automatisch die passende Variante wählen lassen:
try_linux.sh
```
bash try_linux.sh
```

Das kannst du ausprobieren

Ein Bild von einem Hund am Strand und die Suchanfrage „Hund beim Spaziergang am Meer“ einbetten und Ähnlichkeit vergleichen

Drei deutsche Absätze über Photovoltaik einbetten und per Ähnlichkeit nach „Solaranlage auf dem Dach“ suchen

Eine Python-Funktion einbetten und passende Beschreibungen im Code-Repository finden

Wenn es hakt

Es ist ein Embedding-Modell: Es erzeugt Vektoren, keine Texte, und lässt sich nicht als Chat nutzen.

Nutze die richtigen Task-Präfixe für Suche oder Klassifikation.

Beim Kürzen der Vektoren neu normalisieren.

Ob Bild-, Video- und Audio-Eingaben in Ollama bereits unterstützt werden, sagt die Quelle nicht; ggf. Dokumentation prüfen.

„out of memory“, Absturz oder der Rechner hängt

Das Modell ist zu groß für deinen Grafikspeicher. Nimm eine kleinere Variante aus der Tabelle oben und schließe andere Programme, vor allem Spiele und Browser mit vielen Tabs.

Es läuft, aber extrem langsam

Wahrscheinlich rechnet der Prozessor statt der Grafikkarte. Bei Ollama zeigt ollama ps in der Spalte PROCESSOR, wie viel auf der GPU läuft. Steht dort „100% CPU“, Grafiktreiber aktualisieren oder eine kleinere Variante nehmen, die komplett in den Grafikspeicher passt.

„ollama“ bzw. „python“ wird nicht gefunden

Das Eingabefenster schließen und neu öffnen, damit es das frisch installierte Programm kennt. Bei Python unter Windows: neu installieren und das Häkchen Add python.exe to PATH setzen.

Windows: „Die Ausführung von Skripts ist auf diesem System deaktiviert“

Das Skript genau mit dem Befehl oben starten: powershell -ExecutionPolicy Bypass -File try_windows.ps1. Das erlaubt die Ausführung nur dieses einen Mal.

Fehlermeldung beim Laden des Modells (Version, „trust_remote_code“, unbekannte Architektur)

Ganz neue Modelle brauchen oft die neueste Programmversion. Bei Ollama: Ollama aktualisieren. Bei Python: pip install -U transformers in der aktivierten Umgebung. Die Model Card nennt meist die genaue Version.

Skripte und Notebook erzeugt Tokenstrom automatisch. Bitte vor dem Ausführen kurz ansehen – sie sind lesbarer Klartext. Lizenz des Modells beachten: eigene Lizenz (siehe Model Card).