kipreise.info
Lokale Modelle › Text & Chat › Qwen3.8-35B-A3B-Distill
empero-ai · Text & Chat · ⟳ vor 7 Min (16.10. 19:14 UTC)

Qwen3.8-35B-A3B-Distill

Sprachmodelle für Chat, Wissen und Alltag — die Klassiker für den eigenen Rechner.

NEU Apache-2.0

Größe (kompakt)21,7 GB
Kleinste Variante12,6 GB
LizenzApache-2.0
Parameter35B · MoE aktiv: 3B
KategorieText & Chat
Downloads (30 Tage)638k
Likes186
Aktualisiertvor 1 Mon.
Erstelltvor 1 Mon.
Hersteller/Orgempero-ai
Repo-Größe (alle Dateien)266,1 GB

Läuft das auf deinem Rechner?

Was kann es?

Ein lokales Textmodell mit 35 Milliarden Parametern, das dank effizienter Architektur vergleichsweise wenig Rechenleistung pro Token braucht und sich für fließende Gespräche, Zusammenfassungen und Textgenerierung eignet.

Stärken

Für Alltagsaufgaben wie Übersetzen, Texte schreiben oder Code erklären liefert es brauchbare Ergebnisse, ohne eine Serverhalle zu brauchen – es lässt sich auf einer einzigen vernünftigen GPU betreiben.

Grenzen

Als distillierte Variante kann es bei kniffligen logischen Aufgaben spürbar hinter dem Originalmodell zurückbleiben, und mit 35B Parametern braucht man trotz der effizienten Architektur immer noch eine ordentliche Menge VRAM.

Für wen?

Praktisch für Technikbegeisterte, die ein mächtiges Textmodell dauerhaft auf dem eigenen Rechner fahren wollen, statt jedes Mal per API drauf loszahlen zu müssen.

So startest du es

Jeder Befehl ist fertig für dieses Modell: kopieren und in die Konsole einfügen.

GGUF-Fassung vorhanden: Ollama lädt es automatisch von Hugging Face (wahlweise die passende Größe).

🚀 Ollama (Ein-Klick)

Am einfachsten — fertig in 30 Sekunden.

ollama run hf.co/empero-ai/Qwen3.8-35B-A3B-Distill-GGUF
🖥️ LM Studio (grafische Oberfläche)

Für alle, die lieber klicken — kostenlos.

lms get empero-ai/Qwen3.8-35B-A3B-Distill-GGUF
⚙️ llama.cpp (für Profis)

Nach dem Download — Maximum an Tempo.

llama-cli -m Qwen3.8-35B-A3B-Distill-Q4_K_M.gguf # Dateiname aus dem Download-Ordner
Dein Rechner

Besonderheiten

Was dieses Modell ausmacht — geprüft aus den offiziellen Angaben (⟳ vor 7 Min (16.10. 19:14 UTC)).

SprachmodellBeantwortet Fragen, schreibt und fasst Texte zusammen.
Denkt in SchrittenReasoning-Modell — stark bei kniffligen Aufgaben mit Zwischenschritten.
Basis: Qwen3.8-35B-A3B-DistillAufgebaut auf empero-ai/Qwen3.8-35B-A3B-Distill (Quantisierung) — Original-Modellkarte beim Anbieter. Quelle ↗
In Spaces im Einsatz2 Hugging-Face-Spaces nutzen dieses Modell.
Mixtur-of-Experts35B Parameter gesamt, aber nur ~3B pro Wort aktiv — schnell trotz Größe.
Großes KontextfensterBis zu 262k Token auf einmal — ganze Dokumente in einem Rutsch.
SpracheEnglisch
10 VariantenGGUF-Dateien von 12,6 GB bis 71,1 GB — laufen mit llama.cpp, LM Studio & Ollama.
Kommerziell nutzbarLizenz: Apache-2.0.
Beliebt638k Downloads auf Hugging Face.
Gerade im TrendAktuell weit oben bei Hugging Face.
Neu erschienenErst seit vor 1 Mon. online.

Alle Angaben stammen aus den offiziellen Quellen (Hugging Face) — wir hosten keine Modelle.

Wo bekommst du es?

Wir hosten nichts — hier geht es direkt zur Quelle. Die Anleitung unten zeigt dir Schritt für Schritt, wie du das Modell startest.

Auf Hugging Face herunterladen Bei Ollama suchen Bei LM Studio suchen

Größen & Quants

Kleinere Datei = weniger Speicherbedarf, dafür minimal geringere Qualität. Der Check oben zeigt dir für jede Variante, ob sie auf deinem Rechner läuft — entscheiden musst nur du.

VarianteDateigrößeSpeicherbedarf (grob)
Qwen3.8-35B-A3B-IQ2_M12,6 GB14,6 GB
Qwen3.8-35B-A3B-Q2_K13,8 GB15,8 GB
Qwen3.8-35B-A3B-IQ3_M16,3 GB18,3 GB
Qwen3.8-35B-A3B-Q3_K_M17,7 GB19,7 GB
Qwen3.8-35B-A3B-IQ4_XS19,6 GB21,6 GB
Qwen3.8-35B-A3B-Q4_K_M21,7 GB23,7 GB
Qwen3.8-35B-A3B-Q5_K_M25,3 GB27,3 GB
Qwen3.8-35B-A3B-Q6_K29,2 GB31,2 GB
Qwen3.8-35B-A3B-Q8_037,8 GB39,8 GB
Qwen3.8-35B-A3B-BF1671,1 GB73,1 GB
Größenangaben aus der Dateiliste bei Hugging FaceAlle Dateien: HF ↗
Zu groß für den Heim-PC? Mieten.

Dieses Modell braucht viel VRAM — auf einer gemieteten GPU läuft es sofort — stundenweise, ohne Vertragsbindung. Partner-Link (Werbung) – für dich gleicher Preis.

GPUs ansehen →

So startest du Qwen3.8-35B-A3B-Distill

  1. Herunterladen: Über den HF-Button oben (oder direkt in Ollama/LM Studio suchen).
  2. Starten: Unsere Anleitung zeigt dir die einfachsten Wege — LM Studio (Klick-Oberfläche) oder Ollama (ein Befehl).
  3. Chatten: Modell auswählen, lostippen. Ohne Internet, ohne Anmeldung.

Gleiches Modell lieber als API nutzen? Preisvergleich öffnen →

Häufige Fragen

Läuft Qwen3.8-35B-A3B-Distill auf meinem Rechner?

Das zeigt dir der Check oben — Variante für Variante. Typische Größen: die übliche kompakte Variante wiegt 21,7 GB, die kleinste 12,6 GB — rechne grob ~2 GB Puffer dazu.

Was kostet Qwen3.8-35B-A3B-Distill?

Nichts — das Modell ist kostenlos herunterladbar. Kosten entstehen nur für Strom oder eine gemietete GPU, falls dein Rechner zu klein ist.

Ähnliche Modelle: StartLux-Decision-35B-A3B · POCKET-35B · APUS-Reflex-35B-A3B · Zurück zur Übersicht

Daten: Hugging Face API · ⟳ vor 7 Min (16.10. 19:14 UTC). Wir hosten keine Modelle — alle Links führen zu den offiziellen Quellen.