kipreise.info
Lokale Modelle › Mixed (Text + Bild) › Qwen3-Omni-30B-A3B-FP8
marksverdhei · Mixed (Text + Bild) · ⟳ vor 7 Min (16.10. 19:14 UTC)

Qwen3-Omni-30B-A3B-FP8

Alleskönner: verstehen Text und Bilder zusammen — teils auch Audio.

Andere

Größe (kompakt)37,4 GB
Kleinste Variante–
LizenzAndere
Parameter30B · MoE aktiv: 3B
KategorieMixed (Text + Bild)
Downloads (30 Tage)40k
Likes6
Aktualisiertvor 9 Mon.
Erstelltvor 9 Mon.
Hersteller/Orgmarksverdhei
Tensor-TypF8_E4M3
Repo-Größe (alle Dateien)37,4 GB

Läuft das auf deinem Rechner?

Was kann es?

Qwen3-Omni-30B-A3B-FP8 ist ein multimodales Modell von Alibaba, das neben Text auch Spracheingaben versteht und selbst gesprochene Antworten erzeugen kann – wie ein kleiner digitaler Gesprächspartner. Es gehört zur Qwen3-Generation und läuft dank FP8-Quantisierung relativ kompakt.

Stärken

Der MoE-Aufbau mit nur 3B aktiven Parametern pro Token bei 30B Gesamtgröße macht es ungewöhnlich reaktionsschnell für ein 30B-Modell, und die Audio-Fähigkeiten sind für ein lokales Modell solide.

Grenzen

Es braucht trotz der FP8-Kompression weiterhin eine ordentliche GPU (etwa 16-24 GB VRAM) und die Genauigkeit liegt hinter größeren Modellen wie Qwen3-235B oder proprietären Lösungen.

Für wen?

Für technisch versierte Nutzer, die eine Sprachassistenten- oder Transkriptionslösung lokal und offline auf eigener Hardware aufbauen möchten.

So startest du es

Jeder Befehl ist fertig für dieses Modell: kopieren und in die Konsole einfügen.

⚠️ Für dieses Modell haben wir keine verifizierte GGUF-Fassung in der Datenbank. Ohne GGUF können Ollama, LM Studio und llama.cpp es nicht starten. Prüfe auf Hugging Face nach „marksverdhei/Qwen3-Omni-30B-A3B-FP8 GGUF“ (die meisten Text-Modelle haben eine, z. B. von bartowski oder unsloth) — dann gilt: ollama run hf.co/marksverdhei/Qwen3-Omni-30B-A3B-FP8

Dein Rechner

Besonderheiten

Was dieses Modell ausmacht — geprüft aus den offiziellen Angaben (⟳ vor 7 Min (16.10. 19:14 UTC)).

Alles-Könner (Omni)Versteht Text, Bild und Audio in einem Modell.
Basis: Qwen3-Omni-30B-A3B-InstructAufgebaut auf Qwen/Qwen3-Omni-30B-A3B-Instruct (Quantisierung) — Original-Modellkarte beim Anbieter. Quelle ↗
Mixtur-of-Experts30B Parameter gesamt, aber nur ~3B pro Wort aktiv — schnell trotz Größe.
Mehrsprachigu. a. Deutsch, Englisch, Chinesisch, Koreanisch, Japanisch, Russisch
TechnikModelltyp: qwen3_omni_moe · Bibliothek: transformers

Alle Angaben stammen aus den offiziellen Quellen (Hugging Face) — wir hosten keine Modelle.

Wo bekommst du es?

Wir hosten nichts — hier geht es direkt zur Quelle. Die Anleitung unten zeigt dir Schritt für Schritt, wie du das Modell startest.

Auf Hugging Face herunterladen Bei Ollama suchen Bei LM Studio suchen

Größen & Quants

Kleinere Datei = weniger Speicherbedarf, dafür minimal geringere Qualität. Der Check oben zeigt dir für jede Variante, ob sie auf deinem Rechner läuft — entscheiden musst nur du.

VarianteDateigrößeSpeicherbedarf (grob)
Keine Variantenliste verfügbar — schau in die Dateiliste bei Hugging Face.
Größenangaben aus der Dateiliste bei Hugging FaceAlle Dateien: HF ↗

So startest du Qwen3-Omni-30B-A3B-FP8

  1. Herunterladen: Über den HF-Button oben (oder direkt in Ollama/LM Studio suchen).
  2. Starten: Unsere Anleitung zeigt dir die einfachsten Wege — LM Studio (Klick-Oberfläche) oder Ollama (ein Befehl).
  3. Chatten: Modell auswählen, lostippen. Ohne Internet, ohne Anmeldung.

Gleiches Modell lieber als API nutzen? Preisvergleich öffnen →

Häufige Fragen

Läuft Qwen3-Omni-30B-A3B-FP8 auf meinem Rechner?

Das zeigt dir der Check oben — Variante für Variante. Typische Größen: die übliche kompakte Variante wiegt –, die kleinste – — rechne grob ~2 GB Puffer dazu.

Was kostet Qwen3-Omni-30B-A3B-FP8?

Nichts — das Modell ist kostenlos herunterladbar. Kosten entstehen nur für Strom oder eine gemietete GPU, falls dein Rechner zu klein ist.

Ähnliche Modelle: Qwen3.6-35B-A3B-FP8 · Qwen3.8-27B-MLX-8bit · Qwen3-Omni-30B-A3B-Instruct-AWQ-4bit · Zurück zur Übersicht

Daten: Hugging Face API · ⟳ vor 7 Min (16.10. 19:14 UTC). Wir hosten keine Modelle — alle Links führen zu den offiziellen Quellen.