kipreise.info
Lokale Modelle › Text & Chat › torchcast-decision-12b
mradermacher · Text & Chat · ⟳ vor 2 Min (16.10. 19:14 UTC)

torchcast-decision-12b

Sprachmodelle für Chat, Wissen und Alltag — die Klassiker für den eigenen Rechner.

NEU CC BY-NC 4.0

Größe (kompakt)7,4 GB
Kleinste Variante4,8 GB
LizenzCC BY-NC 4.0
Parameter12B
KategorieText & Chat
Downloads (30 Tage)1k
Likes–
Aktualisiertvor 9 Tagen
Erstelltvor 13 Tagen
Hersteller/Orgmradermacher
Repo-Größe (alle Dateien)83,7 GB

Läuft das auf deinem Rechner?

Was kann es?

Ein 12-Billionen-Parameter-Sprachmodell, das sich auf Entscheidungsaufgaben und Textanalyse spezialisiert hat – etwa Pro-und-Contra-Abwägungen, Sortieren und begründete Ableitungen aus Texten.

Stärken

Für Entscheidungsaufgaben liefert es nachvollziehbare, strukturierte Ergebnisse und läuft auf einer einzelnen Consumer-GPU mit 16 GB VRAM.

Grenzen

Es ist kein Allrounder: kreative Texte und schwierige Wissensfragen sind nicht sein Ding, und die CC-BY-NC-Lizenz verbietet jegliche kommerzielle Nutzung.

Für wen?

Geeignet, wenn man lokal und kostenlos eine Klartext-Entscheidungshilfe für geschäftliche Zwecke braucht, die keine Lizenzkosten für kommerzielle Modelle zahlen will.

So startest du es

Jeder Befehl ist fertig für dieses Modell: kopieren und in die Konsole einfügen.

GGUF-Fassung vorhanden: Ollama lädt es automatisch von Hugging Face (wahlweise die passende Größe).

🚀 Ollama (Ein-Klick)

Am einfachsten — fertig in 30 Sekunden.

ollama run hf.co/mradermacher/torchcast-decision-12b-GGUF
🖥️ LM Studio (grafische Oberfläche)

Für alle, die lieber klicken — kostenlos.

lms get mradermacher/torchcast-decision-12b-GGUF
⚙️ llama.cpp (für Profis)

Nach dem Download — Maximum an Tempo.

llama-cli -m torchcast-decision-12b-Q4_K_M.gguf # Dateiname aus dem Download-Ordner
Dein Rechner

Besonderheiten

Was dieses Modell ausmacht — geprüft aus den offiziellen Angaben (⟳ vor 2 Min (16.10. 19:14 UTC)).

SprachmodellBeantwortet Fragen, schreibt und fasst Texte zusammen.
Basis: torchcast-decision-12bAufgebaut auf torchcast-ai/torchcast-decision-12b (Quantisierung) — Original-Modellkarte beim Anbieter. Quelle ↗
Trainings-DatenLaut Modellkarte trainiert mit: Open-Jev-v1.1, boolq, WANLI.
Großes KontextfensterBis zu 262k Token auf einmal — ganze Dokumente in einem Rutsch.
SpracheEnglisch
11 VariantenGGUF-Dateien von 4,8 GB bis 12,7 GB — laufen mit llama.cpp, LM Studio & Ollama.
Nur privatLizenz: CC BY-NC 4.0 — nicht für kommerzielle Nutzung.
Neu erschienenErst seit vor 13 Tagen online.
TechnikModelltyp: gemma4 · Bibliothek: transformers

Alle Angaben stammen aus den offiziellen Quellen (Hugging Face) — wir hosten keine Modelle.

Wo bekommst du es?

Wir hosten nichts — hier geht es direkt zur Quelle. Die Anleitung unten zeigt dir Schritt für Schritt, wie du das Modell startest.

Auf Hugging Face herunterladen Bei Ollama suchen Bei LM Studio suchen

Größen & Quants

Kleinere Datei = weniger Speicherbedarf, dafür minimal geringere Qualität. Der Check oben zeigt dir für jede Variante, ob sie auf deinem Rechner läuft — entscheiden musst nur du.

VarianteDateigrößeSpeicherbedarf (grob)
torchcast-decision-12b.Q2_K4,8 GB6,8 GB
torchcast-decision-12b.Q3_K_S5,5 GB7,5 GB
torchcast-decision-12b.Q3_K_M6,1 GB8,1 GB
torchcast-decision-12b.Q3_K_L6,6 GB8,6 GB
torchcast-decision-12b.IQ4_XS6,7 GB8,7 GB
torchcast-decision-12b.Q4_K_S7,0 GB9,0 GB
torchcast-decision-12b.Q4_K_M7,4 GB9,4 GB
torchcast-decision-12b.Q5_K_S8,3 GB10,3 GB
torchcast-decision-12b.Q5_K_M8,5 GB10,5 GB
torchcast-decision-12b.Q6_K9,8 GB11,8 GB
torchcast-decision-12b.Q8_012,7 GB14,7 GB
Größenangaben aus der Dateiliste bei Hugging FaceAlle Dateien: HF ↗

So startest du torchcast-decision-12b

  1. Herunterladen: Über den HF-Button oben (oder direkt in Ollama/LM Studio suchen).
  2. Starten: Unsere Anleitung zeigt dir die einfachsten Wege — LM Studio (Klick-Oberfläche) oder Ollama (ein Befehl).
  3. Chatten: Modell auswählen, lostippen. Ohne Internet, ohne Anmeldung.

Gleiches Modell lieber als API nutzen? Preisvergleich öffnen →

Häufige Fragen

Läuft torchcast-decision-12b auf meinem Rechner?

Das zeigt dir der Check oben — Variante für Variante. Typische Größen: die übliche kompakte Variante wiegt 7,4 GB, die kleinste 4,8 GB — rechne grob ~2 GB Puffer dazu.

Was kostet torchcast-decision-12b?

Nichts — das Modell ist kostenlos herunterladbar. Kosten entstehen nur für Strom oder eine gemietete GPU, falls dein Rechner zu klein ist.

Ähnliche Modelle: gemma-4-12B-agentic-fable5-composer2.5-v2-3.5x-tau2 · mistral-nemo-instruct-2407-gguf-Q4-K-M · Qwen2.5-VL-7B-Instruct-NVFP4 · Zurück zur Übersicht

Daten: Hugging Face API · ⟳ vor 2 Min (16.10. 19:14 UTC). Wir hosten keine Modelle — alle Links führen zu den offiziellen Quellen.