gemma-4-12b-it
Alleskönner: verstehen Text und Bilder zusammen — teils auch Audio.
Apache-2.0
Läuft das auf deinem Rechner?
Was kann es?
Ein sprachbasiertes Sprachmodell mit 12 Milliarden Parametern, auf Instruktionen optimiert – es versteht Aufgaben wie Zusammenfassen, Übersetzen oder Texte generieren und liefert darauf brauchbare Antworten.
Stärken
Als lokales Modell mit 12B Parametern läuft es auf solider Consumer-Hardware, ohne dass man einen fetten Server braucht, und die Apache-2.0-Lizenz schränkt die Nutzung praktisch nicht ein.
Grenzen
Die Genauigkeit liegt naturgemäß hinter größeren Modellen zurück, komplexe Logik- oder Kodier-Aufgaben stoßen schnell an Grenzen, und ohne aktuelle Benchmark-Zahlen lässt sich die Qualität nur mit Erfahrung einschätzen.
Für wen?
Für alle, die ein kompaktes, frei nutzbares Modell für Textarbeit lokal auf dem eigenen Rechner haben wollen – ohne Hosting-Kosten und ohne Lizenz-Diskussion.
So startest du es
Jeder Befehl ist fertig für dieses Modell: kopieren und in die Konsole einfügen.
GGUF-Fassung vorhanden: Ollama lädt es automatisch von Hugging Face (wahlweise die passende Größe).
Am einfachsten — fertig in 30 Sekunden.
ollama run hf.co/unsloth/gemma-4-12b-it-GGUFFür alle, die lieber klicken — kostenlos.
lms get unsloth/gemma-4-12b-it-GGUFNach dem Download — Maximum an Tempo.
llama-cli -m gemma-4-12b-it-Q4_K_M.gguf # Dateiname aus dem Download-OrdnerBesonderheiten
Was dieses Modell ausmacht — geprüft aus den offiziellen Angaben (⟳ vor 2 Min (16.10. 19:14 UTC)).
Alle Angaben stammen aus den offiziellen Quellen (Hugging Face) — wir hosten keine Modelle.
Wo bekommst du es?
Wir hosten nichts — hier geht es direkt zur Quelle. Die Anleitung unten zeigt dir Schritt für Schritt, wie du das Modell startest.
Auf Hugging Face herunterladen Bei Ollama suchen Bei LM Studio suchen
Größen & Quants
Kleinere Datei = weniger Speicherbedarf, dafür minimal geringere Qualität. Der Check oben zeigt dir für jede Variante, ob sie auf deinem Rechner läuft — entscheiden musst nur du.
| Variante | Dateigröße | Speicherbedarf (grob) |
|---|---|---|
| mtp-gemma-4-12b-it | 0,5 GB | 2,5 GB |
| gemma-4-12b-it-UD-IQ2_M | 4,2 GB | 6,2 GB |
| gemma-4-12b-it-UD-IQ3_XXS | 4,6 GB | 6,6 GB |
| gemma-4-12b-it-UD-Q2_K_XL | 4,7 GB | 6,7 GB |
| gemma-4-12b-it-Q3_K_S | 5,1 GB | 7,1 GB |
| gemma-4-12b-it-Q3_K_M | 5,7 GB | 7,7 GB |
| gemma-4-12b-it-UD-Q3_K_XL | 6,0 GB | 8,0 GB |
| gemma-4-12b-it-IQ4_XS | 6,4 GB | 8,4 GB |
| gemma-4-12b-it-IQ4_NL | 6,7 GB | 8,7 GB |
| gemma-4-12b-it-Q4_0 | 6,7 GB | 8,7 GB |
| gemma-4-12b-it-Q4_K_S | 6,8 GB | 8,8 GB |
| gemma-4-12b-it-Q4_K_M | 7,1 GB | 9,1 GB |
| … und 2 weitere Varianten — die komplette Liste steht im HF-Repo (Link oben) | ||
So startest du gemma-4-12b-it
- Herunterladen: Über den HF-Button oben (oder direkt in Ollama/LM Studio suchen).
- Starten: Unsere Anleitung zeigt dir die einfachsten Wege — LM Studio (Klick-Oberfläche) oder Ollama (ein Befehl).
- Chatten: Modell auswählen, lostippen. Ohne Internet, ohne Anmeldung.
Gleiches Modell lieber als API nutzen? Preisvergleich öffnen →
Häufige Fragen
Läuft gemma-4-12b-it auf meinem Rechner?
Das zeigt dir der Check oben — Variante für Variante. Typische Größen: die übliche kompakte Variante wiegt 7,1 GB, die kleinste 0,5 GB — rechne grob ~2 GB Puffer dazu.
Was kostet gemma-4-12b-it?
Nichts — das Modell ist kostenlos herunterladbar. Kosten entstehen nur für Strom oder eine gemietete GPU, falls dein Rechner zu klein ist.
Ähnliche Modelle: gemma-4-12B-it-qat-q4_0 · gemma-4-E4B-it-MLX-4bit · Clef-Flash · Zurück zur Übersicht
Daten: Hugging Face API · ⟳ vor 2 Min (16.10. 19:14 UTC). Wir hosten keine Modelle — alle Links führen zu den offiziellen Quellen.