kipreise.info
Lokale Modelle › Text & Chat › Qwen3.8-27B-NVFP4-MTP
esatapedico · Text & Chat · ⟳ vor 7 Min (16.10. 19:14 UTC)

Qwen3.8-27B-NVFP4-MTP

Sprachmodelle für Chat, Wissen und Alltag — die Klassiker für den eigenen Rechner.

Apache-2.0

Größe (kompakt)–
Kleinste Variante14,9 GB
LizenzApache-2.0
Parameter27B
KategorieText & Chat
Downloads (30 Tage)732k
Likes118
Aktualisiertvor 2 Mon.
Erstelltvor 2 Mon.
Hersteller/Orgesatapedico
Repo-Größe (alle Dateien)173,4 GB

Läuft das auf deinem Rechner?

Was kann es?

Ein Qwen-Sprachmodell mit 27 Milliarden Parametern, das für die schnelle Textgenerierung optimiert ist. Durch die NVIDIA-FP4-Quantisierung und Multi-Token-Prediction läuft es auf passender NVIDIA-Grafikkarte deutlich schneller als das Original.

Stärken

Der FP4-Quantisierungsgrad und das MTP-Verfahren bringen ordentlich Tempo bei moderatem Speicherbedarf – gut für lokale Nutzung ohne Datenschnittstelle.

Grenzen

Die aggressive 4-Bit-Quantisierung kostet etwas Genauigkeit gegenüber dem unquantisierten Modell, und man braucht dazu passende NVIDIA-Hardware, um den Vorteil wirklich auszuspielen.

Für wen?

Für Leute, die ein leistungsfähiges Textmodell lokal betreiben wollen und sowieso eine NVIDIA-GPU daheim haben.

So startest du es

Jeder Befehl ist fertig für dieses Modell: kopieren und in die Konsole einfügen.

GGUF-Fassung vorhanden: Ollama lädt es automatisch von Hugging Face (wahlweise die passende Größe).

🚀 Ollama (Ein-Klick)

Am einfachsten — fertig in 30 Sekunden.

ollama run hf.co/esatapedico/Qwen3.8-27B-NVFP4-MTP-GGUF
🖥️ LM Studio (grafische Oberfläche)

Für alle, die lieber klicken — kostenlos.

lms get esatapedico/Qwen3.8-27B-NVFP4-MTP-GGUF
⚙️ llama.cpp (für Profis)

Nach dem Download — Maximum an Tempo.

llama-cli -m Qwen3.8-27B-NVFP4-MTP-Q4_K_M.gguf # Dateiname aus dem Download-Ordner
Dein Rechner

Besonderheiten

Was dieses Modell ausmacht — geprüft aus den offiziellen Angaben (⟳ vor 7 Min (16.10. 19:14 UTC)).

SprachmodellBeantwortet Fragen, schreibt und fasst Texte zusammen.
Basis: Qwen3.8-27B-NVFP4Aufgebaut auf unsloth/Qwen3.8-27B-NVFP4 (Quantisierung) — Original-Modellkarte beim Anbieter. Quelle ↗
In Spaces im Einsatz4 Hugging-Face-Spaces nutzen dieses Modell.
Großes KontextfensterBis zu 262k Token auf einmal — ganze Dokumente in einem Rutsch.
SpracheEnglisch
9 VariantenGGUF-Dateien von 14,9 GB bis 33,1 GB — laufen mit llama.cpp, LM Studio & Ollama.
Kommerziell nutzbarLizenz: Apache-2.0.
Beliebt732k Downloads auf Hugging Face.
Gerade im TrendAktuell weit oben bei Hugging Face.
TechnikModelltyp: qwen3_5 · 64 Schichten · Bibliothek: gguf

Alle Angaben stammen aus den offiziellen Quellen (Hugging Face) — wir hosten keine Modelle.

Wo bekommst du es?

Wir hosten nichts — hier geht es direkt zur Quelle. Die Anleitung unten zeigt dir Schritt für Schritt, wie du das Modell startest.

Auf Hugging Face herunterladen Bei Ollama suchen Bei LM Studio suchen

Größen & Quants

Kleinere Datei = weniger Speicherbedarf, dafür minimal geringere Qualität. Der Check oben zeigt dir für jede Variante, ob sie auf deinem Rechner läuft — entscheiden musst nur du.

VarianteDateigrößeSpeicherbedarf (grob)
Qwen3.8-27B-NVFP4-MTP-VERY-LOW14,9 GB16,9 GB
Qwen3.8-27B-NVFP4-MTP-COMPACT-LOW15,2 GB17,2 GB
Qwen3.8-27B-NVFP4-MTP-LOW15,5 GB17,5 GB
Qwen3.8-27B-NVFP4-MTP-MEDIUM16,4 GB18,4 GB
Qwen3.8-27B-NVFP4-MTP-MID-HIGH16,9 GB18,9 GB
Qwen3.8-27B-NVFP4-MTP-HIGH17,6 GB19,6 GB
Qwen3.8-27B-NVFP4-MTP-VERY-HIGH19,7 GB21,7 GB
Qwen3.8-27B-NVFP4-MTP-HIGHEST23,2 GB25,2 GB
Qwen3.8-27B-NVFP4-MTP-ORIG33,1 GB35,1 GB
Größenangaben aus der Dateiliste bei Hugging FaceAlle Dateien: HF ↗

So startest du Qwen3.8-27B-NVFP4-MTP

  1. Herunterladen: Über den HF-Button oben (oder direkt in Ollama/LM Studio suchen).
  2. Starten: Unsere Anleitung zeigt dir die einfachsten Wege — LM Studio (Klick-Oberfläche) oder Ollama (ein Befehl).
  3. Chatten: Modell auswählen, lostippen. Ohne Internet, ohne Anmeldung.

Gleiches Modell lieber als API nutzen? Preisvergleich öffnen →

Häufige Fragen

Läuft Qwen3.8-27B-NVFP4-MTP auf meinem Rechner?

Das zeigt dir der Check oben — Variante für Variante. Typische Größen: die übliche kompakte Variante wiegt –, die kleinste 14,9 GB — rechne grob ~2 GB Puffer dazu.

Was kostet Qwen3.8-27B-NVFP4-MTP?

Nichts — das Modell ist kostenlos herunterladbar. Kosten entstehen nur für Strom oder eine gemietete GPU, falls dein Rechner zu klein ist.

Ähnliche Modelle: llama3.1 · deepseek-r1 · nomic-embed-text · Zurück zur Übersicht

Daten: Hugging Face API · ⟳ vor 7 Min (16.10. 19:14 UTC). Wir hosten keine Modelle — alle Links führen zu den offiziellen Quellen.