kipreise.info
Lokale Modelle › Code › Ternary-Bonsai-2-27B
prism-ml · Code · ⟳ vor 2 Min (16.10. 19:14 UTC)

Ternary-Bonsai-2-27B

Modelle fürs Programmieren: Code schreiben, erklären und vervollständigen.

NEU Apache-2.0

Größe (kompakt)–
Kleinste Variante5,9 GB
LizenzApache-2.0
Parameter27B
KategorieCode
Downloads (30 Tage)4,9 Mio.
Likes3k
Aktualisiertvor 21 Tagen
Erstelltvor 1 Mon.
Hersteller/Orgprism-ml
Repo-Größe (alle Dateien)68,5 GB

Läuft das auf deinem Rechner?

Was kann es?

Ein lokales Sprachmodell mit 27 Milliarden Parametern, das auf Programmieraufgaben spezialisiert ist – es generiert Code, erklärt Fehler und schlägt Alternativlösungen vor. Durch die Ternary-Quantisierung ist es für die CPU- oder GPU-Verarbeitung deutlich leichter, als die Anzahl der Parameter nahelegt.

Stärken

Sein Ternary-Quantisierungsansatz macht es effizient lauffähig, ohne bei Codieraufgaben gleich komplett einzubrechen.

Grenzen

Bei 27B ist eine vernünftige GPU mit mindestens 16 GB VRAM nötig, und die Ternary-Quantisierung kostet bei komplexen Aufgaben durchaus an Genauigkeit.

Für wen?

Für Entwickler, die unterwegs oder im eigenen LAN einen Code-Assistenten ohne Cloud-Abo einsetzen möchten.

So startest du es

Jeder Befehl ist fertig für dieses Modell: kopieren und in die Konsole einfügen.

GGUF-Fassung vorhanden: Ollama lädt es automatisch von Hugging Face (wahlweise die passende Größe).

🚀 Ollama (Ein-Klick)

Am einfachsten — fertig in 30 Sekunden.

ollama run hf.co/prism-ml/Ternary-Bonsai-2-27B-gguf
🖥️ LM Studio (grafische Oberfläche)

Für alle, die lieber klicken — kostenlos.

lms get prism-ml/Ternary-Bonsai-2-27B-gguf
⚙️ llama.cpp (für Profis)

Nach dem Download — Maximum an Tempo.

llama-cli -m Ternary-Bonsai-2-27B-Q4_K_M.gguf # Dateiname aus dem Download-Ordner
Dein Rechner

Besonderheiten

Was dieses Modell ausmacht — geprüft aus den offiziellen Angaben (⟳ vor 2 Min (16.10. 19:14 UTC)).

Programmiert mitSpeziell fürs Schreiben, Erklären und Vervollständigen von Code.
Basis: Qwen3.8-27BAufgebaut auf Qwen/Qwen3.8-27B (Quantisierung) — Original-Modellkarte beim Anbieter. Quelle ↗
In Spaces im Einsatz17 Hugging-Face-Spaces nutzen dieses Modell.
Großes KontextfensterBis zu 262k Token auf einmal — ganze Dokumente in einem Rutsch.
3 VariantenGGUF-Dateien von 5,9 GB bis 53,8 GB — laufen mit llama.cpp, LM Studio & Ollama.
Kommerziell nutzbarLizenz: Apache-2.0.
Millionenfach geladen4,9 Mio. Downloads auf Hugging Face.
Gerade im TrendAktuell weit oben bei Hugging Face.
Neu erschienenErst seit vor 1 Mon. online.
TechnikModelltyp: qwen3_5 · 64 Schichten · Bibliothek: llama.cpp

Alle Angaben stammen aus den offiziellen Quellen (Hugging Face) — wir hosten keine Modelle.

Wo bekommst du es?

Wir hosten nichts — hier geht es direkt zur Quelle. Die Anleitung unten zeigt dir Schritt für Schritt, wie du das Modell startest.

Auf Hugging Face herunterladen Bei Ollama suchen Bei LM Studio suchen

Größen & Quants

Kleinere Datei = weniger Speicherbedarf, dafür minimal geringere Qualität. Der Check oben zeigt dir für jede Variante, ob sie auf deinem Rechner läuft — entscheiden musst nur du.

VarianteDateigrößeSpeicherbedarf (grob)
Ternary-Bonsai-2-27B-PTQ1_05,9 GB7,9 GB
Ternary-Bonsai-2-27B-PQ2_07,2 GB9,2 GB
Ternary-Bonsai-2-27B-F1653,8 GB55,8 GB
Größenangaben aus der Dateiliste bei Hugging FaceAlle Dateien: HF ↗

So startest du Ternary-Bonsai-2-27B

  1. Herunterladen: Über den HF-Button oben (oder direkt in Ollama/LM Studio suchen).
  2. Starten: Unsere Anleitung zeigt dir die einfachsten Wege — LM Studio (Klick-Oberfläche) oder Ollama (ein Befehl).
  3. Chatten: Modell auswählen, lostippen. Ohne Internet, ohne Anmeldung.

Gleiches Modell lieber als API nutzen? Preisvergleich öffnen →

Häufige Fragen

Läuft Ternary-Bonsai-2-27B auf meinem Rechner?

Das zeigt dir der Check oben — Variante für Variante. Typische Größen: die übliche kompakte Variante wiegt –, die kleinste 5,9 GB — rechne grob ~2 GB Puffer dazu.

Was kostet Ternary-Bonsai-2-27B?

Nichts — das Modell ist kostenlos herunterladbar. Kosten entstehen nur für Strom oder eine gemietete GPU, falls dein Rechner zu klein ist.

Ähnliche Modelle: qwen2.5-coder · qwen3-coder · codellama · Zurück zur Übersicht

Daten: Hugging Face API · ⟳ vor 2 Min (16.10. 19:14 UTC). Wir hosten keine Modelle — alle Links führen zu den offiziellen Quellen.