kipreise.info
Lokale Modelle › Text & Chat › JiRackUltra_32b
CMSManhattan · Text & Chat · ⟳ vor 2 Min (16.10. 19:14 UTC)

JiRackUltra_32b

Sprachmodelle für Chat, Wissen und Alltag — die Klassiker für den eigenen Rechner.

Update MIT

Größe (kompakt)19,9 GB
Kleinste Variante12,3 GB
LizenzMIT
Parameter32B
KategorieText & Chat
Downloads (30 Tage)62k
Likes1
Aktualisiertgestern
Erstelltvor 2 Mon.
Hersteller/OrgCMSManhattan
Tensor-TypBF16
Repo-Größe (alle Dateien)329,7 GB

Läuft das auf deinem Rechner?

Was kann es?

JiRackUltra_32b ist ein lokales Textmodell mit 32 Milliarden Parametern, das Aufgaben wie Textgenerierung, Zusammenfassungen und Übersetzungen auf dem eigenen Rechner erledigt – ohne Daten an externe Server zu schicken.

Stärken

Bei 32 Milliarden Parametern erreicht das Modell eine solide Textqualität, die für die meisten Alltagsanwendungen ausreicht, und läuft dank MIT-Lizenz komplett frei verwendbar auch auf normalen High-End-Grafikkarten.

Grenzen

Für flüssiges Inference braucht man etwa 20–24 GB VRAM oder muss quantisierte Varianten nutzen, und bei komplexen Logik- oder Fachfragen bleibt es deutlich hinter großen Modellen zurück – zudem ist das Modell relativ jung und hat ein begrenztes Dokumentations-Ökosystem.

Für wen?

Für Technikbegeisterte mit einer aktuellen Grafikkarte, die KI-Funktionen privat oder im Kleingewerbe datenschutzfreundlich lokal betreiben wollen.

So startest du es

Jeder Befehl ist fertig für dieses Modell: kopieren und in die Konsole einfügen.

GGUF-Fassung vorhanden: Ollama lädt es automatisch von Hugging Face (wahlweise die passende Größe).

🚀 Ollama (Ein-Klick)

Am einfachsten — fertig in 30 Sekunden.

ollama run hf.co/CMSManhattan/JiRackUltra_32b
🖥️ LM Studio (grafische Oberfläche)

Für alle, die lieber klicken — kostenlos.

lms get CMSManhattan/JiRackUltra_32b
⚙️ llama.cpp (für Profis)

Nach dem Download — Maximum an Tempo.

llama-cli -m JiRackUltra_32b-Q4_K_M.gguf # Dateiname aus dem Download-Ordner
Dein Rechner

Besonderheiten

Was dieses Modell ausmacht — geprüft aus den offiziellen Angaben (⟳ vor 2 Min (16.10. 19:14 UTC)).

SprachmodellBeantwortet Fragen, schreibt und fasst Texte zusammen.
In Spaces im Einsatz1 Hugging-Face-Space nutzt dieses Modell.
Großes KontextfensterBis zu 131k Token auf einmal — ganze Dokumente in einem Rutsch.
Mehrsprachigu. a. Englisch, Chinesisch, Japanisch, Koreanisch, Französisch, Spanisch
7 VariantenGGUF-Dateien von 12,3 GB bis 65,5 GB — laufen mit llama.cpp, LM Studio & Ollama.
Kommerziell nutzbarLizenz: MIT.
TechnikModelltyp: qwen2

Alle Angaben stammen aus den offiziellen Quellen (Hugging Face) — wir hosten keine Modelle.

Wo bekommst du es?

Wir hosten nichts — hier geht es direkt zur Quelle. Die Anleitung unten zeigt dir Schritt für Schritt, wie du das Modell startest.

Auf Hugging Face herunterladen Bei Ollama suchen Bei LM Studio suchen

Größen & Quants

Kleinere Datei = weniger Speicherbedarf, dafür minimal geringere Qualität. Der Check oben zeigt dir für jede Variante, ob sie auf deinem Rechner läuft — entscheiden musst nur du.

VarianteDateigrößeSpeicherbedarf (grob)
Q2_K12,3 GB14,3 GB
Q3_K_M15,9 GB17,9 GB
Q4_K_M19,9 GB21,9 GB
Q5_K_M23,3 GB25,3 GB
Q6_K26,9 GB28,9 GB
Q8_034,8 GB36,8 GB
JiRackUltra_32b65,5 GB67,5 GB
Größenangaben aus der Dateiliste bei Hugging FaceAlle Dateien: HF ↗

So startest du JiRackUltra_32b

  1. Herunterladen: Über den HF-Button oben (oder direkt in Ollama/LM Studio suchen).
  2. Starten: Unsere Anleitung zeigt dir die einfachsten Wege — LM Studio (Klick-Oberfläche) oder Ollama (ein Befehl).
  3. Chatten: Modell auswählen, lostippen. Ohne Internet, ohne Anmeldung.

Gleiches Modell lieber als API nutzen? Preisvergleich öffnen →

Häufige Fragen

Läuft JiRackUltra_32b auf meinem Rechner?

Das zeigt dir der Check oben — Variante für Variante. Typische Größen: die übliche kompakte Variante wiegt 19,9 GB, die kleinste 12,3 GB — rechne grob ~2 GB Puffer dazu.

Was kostet JiRackUltra_32b?

Nichts — das Modell ist kostenlos herunterladbar. Kosten entstehen nur für Strom oder eine gemietete GPU, falls dein Rechner zu klein ist.

Ähnliche Modelle: Qwen2.5-32B-Instruct · qwen-2.5-32B-instruct-gguf-Q4-K-M · gemma-4-31B-it-qat-NVFP4-Blackwell · Zurück zur Übersicht

Daten: Hugging Face API · ⟳ vor 2 Min (16.10. 19:14 UTC). Wir hosten keine Modelle — alle Links führen zu den offiziellen Quellen.