Läuft das auf meinem Rechner?
Stelle deine Grafikkarte ein — wir zeigen dir sofort, welche der 840 Modelle laufen, mit kleinerer Variante nur knapp laufen oder zu groß sind (dafür gibt es Miet-GPUs). Alles rechnet in deinem Browser — nichts wird an uns gesendet; deine Auswahl merken wir nur lokal auf deinem Gerät.
KI-generiert
So startest du es
Jeder Befehl ist fertig für dieses Modell: kopieren und in die Konsole einfügen.
GGUF-Fassung vorhanden: Ollama lädt es automatisch von Hugging Face (wahlweise die passende Größe).
Am einfachsten — fertig in 30 Sekunden.
ollama run hf.co/unsloth/embeddinggemma-2-GGUFFür alle, die lieber klicken — kostenlos.
lms get unsloth/embeddinggemma-2-GGUFNach dem Download — Maximum an Tempo.
llama-cli -m embeddinggemma-2-Q4_K_M.gguf # Dateiname aus dem Download-OrdnerWas kann es?
embeddinggemma-2 verwandelt Text in mathematische Vektoren – also in Zahlenreihen, die Bedeutung beschreiben. So lassen sich Dokumente durchsuchen, sortieren oder gruppieren, ohne dass der Nutzer exakt nach den richtigen Worten suchen muss.
Stärken
Das Modell läuft lokal, ist Apache-2.0-lizenziert und damit frei nutz- und veränderbar, ohne dass Daten in eine Cloud geschickt werden müssen.
Grenzen
Als Embedding-Modell generiert es selbst keine Antworten – es ordnet nur Texte ein, und die Parameteranzahl ist auf unserer Seite noch nicht dokumentiert, was die Einschätzung von Hardware-Bedarf erschwert.
Für wen?
Praktisch für Entwickler, die ein lokales Such- oder Wiederfindungssystem für eigene Dokumente bauen wollen, ohne dabei Kosten oder Datenschutzrisiken in Kauf nehmen zu müssen.
So startest du es
Jeder Befehl ist fertig für dieses Modell: kopieren und in die Konsole einfügen.
GGUF-Fassung vorhanden: Ollama lädt es automatisch von Hugging Face (wahlweise die passende Größe).
Am einfachsten — fertig in 30 Sekunden.
ollama run hf.co/unsloth/embeddinggemma-2-GGUFFür alle, die lieber klicken — kostenlos.
lms get unsloth/embeddinggemma-2-GGUFNach dem Download — Maximum an Tempo.
llama-cli -m embeddinggemma-2-Q4_K_M.gguf # Dateiname aus dem Download-OrdnerDatenquellen: Hugging Face API (Modell-Fakten) · LMArena (CC BY 4.0) · Aider Polyglot (Apache 2.0) · eigene Berechnungen — ⟳ vor 2 Min (16.10. 19:14 UTC) · wir hosten keine Modelle.
So funktioniert die Schätzung
Woher kommt der VRAM-Bedarf?
Aus der Dateigröße der Quants (Q4 & kleinste Version) plus Puffer für Kontext und Overhead. Ein 16-GB-Q4-Modell braucht also rund 18 GB VRAM — „knapp“ heißt: mit kleineren Quants probierbar.
Wie genau ist das Tempo?
Grobe Daumenregel aus GPU-Klasse und Modellgröße (±50 %). Echte Werte hängen von Modell, Quant und Software ab. Kleineres Modell oder kleineres Quant = schneller.
Und wenn es nicht läuft?
Zwei Wege: kleinere Quants probieren — oder eine GPU mieten. Auf Vast.ai bekommst du starke Karten stundenweise — Partner-Link (Werbung), für dich gleicher Preis.