kipreise.info
Lokale Modelle › Code › Qwen2.5-Coder-32B-Instruct-AWQ
Qwen · Code · ⟳ vor 2 Min (16.10. 19:14 UTC)

Qwen2.5-Coder-32B-Instruct-AWQ

Modelle fürs Programmieren: Code schreiben, erklären und vervollständigen.

Apache-2.0

Größe (kompakt)19,3 GB
Kleinste Variante–
LizenzApache-2.0
Parameter32B
KategorieCode
Downloads (30 Tage)950k
Likes47
Aktualisiertvor 2 Jahren
Erstelltvor 2 Jahren
Hersteller/OrgQwen
Tensor-TypI32
Repo-Größe (alle Dateien)19,3 GB
Aider Polyglot (Coding)16,4 % · Stand 2024-12-26

Läuft das auf deinem Rechner?

Was kann es?

Ein Programmier-Assistent mit 32 Milliarden Parametern, der Code schreibt, erklärt, fehlerfundiert und in verschiedenen Programmiersprachen umschreibt. Die AWQ-Quantisierung macht es so leicht, dass es auf einzelnen Consumer-GPUs wie einer RTX 4090 läuft.

Stärken

In Programmieraufgaben besonders stark – seltener als viele Konkurrenten durch Wiederholungen oder Unsinn in den Outputs.

Grenzen

32B sind gut, aber kein Allrounder für komplexe Reasoning-Aufgaben außerhalb der Codierung; die AWQ-Quantisierung kostet eine messbare, wenn auch geringe Menge an Genauigkeit gegenüber dem unquantisierten Original.

Für wen?

Für Entwickler, die eine lokale KI für Code-Hilfe wollen, ohne ihre Daten in die Cloud schicken zu müssen.

So startest du es

Jeder Befehl ist fertig für dieses Modell: kopieren und in die Konsole einfügen.

⚠️ Für dieses Modell haben wir keine verifizierte GGUF-Fassung in der Datenbank. Ohne GGUF können Ollama, LM Studio und llama.cpp es nicht starten. Prüfe auf Hugging Face nach „Qwen/Qwen2.5-Coder-32B-Instruct-AWQ GGUF“ (die meisten Text-Modelle haben eine, z. B. von bartowski oder unsloth) — dann gilt: ollama run hf.co/Qwen/Qwen2.5-Coder-32B-Instruct-AWQ

Dein Rechner

Besonderheiten

Was dieses Modell ausmacht — geprüft aus den offiziellen Angaben (⟳ vor 2 Min (16.10. 19:14 UTC)).

Programmiert mitSpeziell fürs Schreiben, Erklären und Vervollständigen von Code.
Basis: Qwen2.5-Coder-32B-InstructAufgebaut auf Qwen/Qwen2.5-Coder-32B-Instruct (Quantisierung) — Original-Modellkarte beim Anbieter. Quelle ↗
Paper / ForschungarXiv:2409.12186, arXiv:2309.00071, arXiv:2407.10671 — die Original-Arbeit zum Modell bzw. Verfahren. Quelle ↗
In Spaces im Einsatz7 Hugging-Face-Spaces nutzen dieses Modell.
SpracheEnglisch
Kommerziell nutzbarLizenz: Apache-2.0.
Beliebt950k Downloads auf Hugging Face.
TechnikModelltyp: qwen2 · Bibliothek: transformers

Alle Angaben stammen aus den offiziellen Quellen (Hugging Face) — wir hosten keine Modelle.

Wo bekommst du es?

Wir hosten nichts — hier geht es direkt zur Quelle. Die Anleitung unten zeigt dir Schritt für Schritt, wie du das Modell startest.

Auf Hugging Face herunterladen Bei Ollama suchen Bei LM Studio suchen

Größen & Quants

Kleinere Datei = weniger Speicherbedarf, dafür minimal geringere Qualität. Der Check oben zeigt dir für jede Variante, ob sie auf deinem Rechner läuft — entscheiden musst nur du.

VarianteDateigrößeSpeicherbedarf (grob)
Keine Variantenliste verfügbar — schau in die Dateiliste bei Hugging Face.
Größenangaben aus der Dateiliste bei Hugging FaceAlle Dateien: HF ↗

So startest du Qwen2.5-Coder-32B-Instruct-AWQ

  1. Herunterladen: Über den HF-Button oben (oder direkt in Ollama/LM Studio suchen).
  2. Starten: Unsere Anleitung zeigt dir die einfachsten Wege — LM Studio (Klick-Oberfläche) oder Ollama (ein Befehl).
  3. Chatten: Modell auswählen, lostippen. Ohne Internet, ohne Anmeldung.

Gleiches Modell lieber als API nutzen? Preisvergleich öffnen →

Häufige Fragen

Läuft Qwen2.5-Coder-32B-Instruct-AWQ auf meinem Rechner?

Das zeigt dir der Check oben — Variante für Variante. Typische Größen: die übliche kompakte Variante wiegt –, die kleinste – — rechne grob ~2 GB Puffer dazu.

Was kostet Qwen2.5-Coder-32B-Instruct-AWQ?

Nichts — das Modell ist kostenlos herunterladbar. Kosten entstehen nur für Strom oder eine gemietete GPU, falls dein Rechner zu klein ist.

Ähnliche Modelle: Xing4.0-29B-A4B · Qwen3-Coder-30B-A3B-Instruct · Qwen3-Coder-30B-A3B-Instruct · Zurück zur Übersicht

Daten: Hugging Face API · Aider Polyglot (Apache 2.0) · ⟳ vor 2 Min (16.10. 19:14 UTC). Wir hosten keine Modelle — alle Links führen zu den offiziellen Quellen.