kipreise.info
Lokale Modelle › Code › Qwen3-Coder-30B-A3B-Instruct-AWQ-4bit
cyankiwi · Code · ⟳ vor 2 Min (16.10. 19:14 UTC)

Qwen3-Coder-30B-A3B-Instruct-AWQ-4bit

Modelle fürs Programmieren: Code schreiben, erklären und vervollständigen.

Apache-2.0

Größe (kompakt)18,1 GB
Kleinste Variante–
LizenzApache-2.0
Parameter30B · MoE aktiv: 3B
KategorieCode
Downloads (30 Tage)797k
Likes66
Aktualisiertvor 3 Mon.
Erstelltvor 1 Jahren
Hersteller/Orgcyankiwi
Tensor-TypI32
Repo-Größe (alle Dateien)18,1 GB

Läuft das auf deinem Rechner?

Was kann es?

Ein Code-geschultes KI-Modell von Alibaba (Qwen), das läuft komplett auf deiner eigenen Hardware. Dank MoE-Architektur (30 Mrd. Parameter gesamt, 3 Mrd. pro Antwort) ist es trotz der Größe recht zügig – die 4-Bit-Quantisierung drückt den Speicherbedarf auf etwa 16 GB VRAM.

Stärken

Erlaubt Apache-2.0-Lizenz und gute Code-Qualität machen es zu einer der praktikabelsten Optionen für lokale Programmier-Hilfe, besonders weil die MoE-Architektur die Inferenz trotz 30B Parametern schnell hält.

Grenzen

Die 4-Bit-Quantisierung kostet etwas Genauigkeit, und du brauchst trotzdem eine Grafikkarte mit rund 16 GB VRAM – auf einem gewöhnlichen Laptop läuft es nicht flüssig.

Für wen?

Für Entwickler, die ihre Code-Verläufe nicht in die Cloud schicken wollen, aber trotzdem brauchbare Ergebnisse von einem lokalen Modell erwarten.

So startest du es

Jeder Befehl ist fertig für dieses Modell: kopieren und in die Konsole einfügen.

⚠️ Für dieses Modell haben wir keine verifizierte GGUF-Fassung in der Datenbank. Ohne GGUF können Ollama, LM Studio und llama.cpp es nicht starten. Prüfe auf Hugging Face nach „cyankiwi/Qwen3-Coder-30B-A3B-Instruct-AWQ-4bit GGUF“ (die meisten Text-Modelle haben eine, z. B. von bartowski oder unsloth) — dann gilt: ollama run hf.co/cyankiwi/Qwen3-Coder-30B-A3B-Instruct-AWQ-4bit

Dein Rechner

Besonderheiten

Was dieses Modell ausmacht — geprüft aus den offiziellen Angaben (⟳ vor 2 Min (16.10. 19:14 UTC)).

Programmiert mitSpeziell fürs Schreiben, Erklären und Vervollständigen von Code.
Basis: Qwen3-Coder-30B-A3B-InstructAufgebaut auf Qwen/Qwen3-Coder-30B-A3B-Instruct (Quantisierung) — Original-Modellkarte beim Anbieter. Quelle ↗
Paper / ForschungarXiv:2505.09388 — die Original-Arbeit zum Modell bzw. Verfahren. Quelle ↗
In Spaces im Einsatz5 Hugging-Face-Spaces nutzen dieses Modell.
Mixtur-of-Experts30B Parameter gesamt, aber nur ~3B pro Wort aktiv — schnell trotz Größe.
Kommerziell nutzbarLizenz: Apache-2.0.
Beliebt797k Downloads auf Hugging Face.
TechnikModelltyp: qwen3_moe · Bibliothek: transformers

Alle Angaben stammen aus den offiziellen Quellen (Hugging Face) — wir hosten keine Modelle.

Wo bekommst du es?

Wir hosten nichts — hier geht es direkt zur Quelle. Die Anleitung unten zeigt dir Schritt für Schritt, wie du das Modell startest.

Auf Hugging Face herunterladen Bei Ollama suchen Bei LM Studio suchen

Größen & Quants

Kleinere Datei = weniger Speicherbedarf, dafür minimal geringere Qualität. Der Check oben zeigt dir für jede Variante, ob sie auf deinem Rechner läuft — entscheiden musst nur du.

VarianteDateigrößeSpeicherbedarf (grob)
Keine Variantenliste verfügbar — schau in die Dateiliste bei Hugging Face.
Größenangaben aus der Dateiliste bei Hugging FaceAlle Dateien: HF ↗

So startest du Qwen3-Coder-30B-A3B-Instruct-AWQ-4bit

  1. Herunterladen: Über den HF-Button oben (oder direkt in Ollama/LM Studio suchen).
  2. Starten: Unsere Anleitung zeigt dir die einfachsten Wege — LM Studio (Klick-Oberfläche) oder Ollama (ein Befehl).
  3. Chatten: Modell auswählen, lostippen. Ohne Internet, ohne Anmeldung.

Gleiches Modell lieber als API nutzen? Preisvergleich öffnen →

Häufige Fragen

Läuft Qwen3-Coder-30B-A3B-Instruct-AWQ-4bit auf meinem Rechner?

Das zeigt dir der Check oben — Variante für Variante. Typische Größen: die übliche kompakte Variante wiegt –, die kleinste – — rechne grob ~2 GB Puffer dazu.

Was kostet Qwen3-Coder-30B-A3B-Instruct-AWQ-4bit?

Nichts — das Modell ist kostenlos herunterladbar. Kosten entstehen nur für Strom oder eine gemietete GPU, falls dein Rechner zu klein ist.

Ähnliche Modelle: Qwen2.5-Coder-14B-Instruct · K2-Horizon-7B · Qwen3-Coder-30B-A3B-Instruct · Zurück zur Übersicht

Daten: Hugging Face API · ⟳ vor 2 Min (16.10. 19:14 UTC). Wir hosten keine Modelle — alle Links führen zu den offiziellen Quellen.