kipreise.info
Lokale Modelle › Text & Chat › NVIDIA-Nemotron-3.5-Lightning-30B-A3B-NVFP4-DSpark
nvidia · Text & Chat · ⟳ vor 7 Min (16.10. 19:14 UTC)

NVIDIA-Nemotron-3.5-Lightning-30B-A3B-NVFP4-DSpark

Sprachmodelle für Chat, Wissen und Alltag — die Klassiker für den eigenen Rechner.

Update Andere

Größe (kompakt)1,3 GB
Kleinste Variante–
LizenzAndere
Parameter30B · MoE aktiv: 3B
KategorieText & Chat
Downloads (30 Tage)139k
Likes37
Aktualisiertvor 4 Tagen
Erstelltvor 2 Mon.
Hersteller/Orgnvidia
Tensor-TypBF16
Repo-Größe (alle Dateien)1,3 GB

Läuft das auf deinem Rechner?

Was kann es?

Das ist ein großes Sprachmodell (30 Milliarden Parameter), bei dem pro Anfrage nur rund 3 Milliarden davon aktiv arbeiten – dadurch ist es deutlich schneller und sparsamer als Modelle mit ähnlichem Wissensumfang. Es ist auf NVIDIA-optimierten 4-Bit-Stärken (NVFP4) gespeichert, was es extrem kompakt hält.

Stärken

Durch die Mixture-of-Architektur und die aggressive 4-Bit-Quantisierung bringt es erstaunlich viel Wissen auf vergleichsweise wenig Rechenleistung – es läuft damit auf deutlich weniger VRAM als klassische 30B-Modelle.

Grenzen

Die 4-Bit-Quantisierung bedeutet spürbare Genauigkeitseinbußen im Detail, die Lizenz ist kein Standard (Apache/MIT) und eingeschränkte Lizenzen können kommerzielle Nutzung komplizierter machen; zudem läuft die NVFP4-Optimierung am besten auf neueren NVIDIA-Hardware (Blackwell).

Für wen?

Für tüftelnde Heimnutzer und Entwickler mit einer modernen NVIDIA-Grafikkarte, die ein schnelles, kompaktes Lokalmodell für Textaufgaben wollen, ohne eine Groß-GPU zu opfern.

So startest du es

Jeder Befehl ist fertig für dieses Modell: kopieren und in die Konsole einfügen.

⚠️ Für dieses Modell haben wir keine verifizierte GGUF-Fassung in der Datenbank. Ohne GGUF können Ollama, LM Studio und llama.cpp es nicht starten. Prüfe auf Hugging Face nach „nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-NVFP4-DSpark GGUF“ (die meisten Text-Modelle haben eine, z. B. von bartowski oder unsloth) — dann gilt: ollama run hf.co/nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-NVFP4-DSpark

Dein Rechner

Besonderheiten

Was dieses Modell ausmacht — geprüft aus den offiziellen Angaben (⟳ vor 7 Min (16.10. 19:14 UTC)).

SprachmodellBeantwortet Fragen, schreibt und fasst Texte zusammen.
Basis: NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Aufgebaut auf nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 (Quantisierung) — Original-Modellkarte beim Anbieter. Quelle ↗
Paper / ForschungarXiv:2607.05147 — die Original-Arbeit zum Modell bzw. Verfahren. Quelle ↗
In Spaces im Einsatz5 Hugging-Face-Spaces nutzen dieses Modell.
Mixtur-of-Experts30B Parameter gesamt, aber nur ~3B pro Wort aktiv — schnell trotz Größe.
Beliebt139k Downloads auf Hugging Face.
TechnikModelltyp: qwen3 · Bibliothek: Model Optimizer

Alle Angaben stammen aus den offiziellen Quellen (Hugging Face) — wir hosten keine Modelle.

Wo bekommst du es?

Wir hosten nichts — hier geht es direkt zur Quelle. Die Anleitung unten zeigt dir Schritt für Schritt, wie du das Modell startest.

Auf Hugging Face herunterladen Bei Ollama suchen Bei LM Studio suchen

Größen & Quants

Kleinere Datei = weniger Speicherbedarf, dafür minimal geringere Qualität. Der Check oben zeigt dir für jede Variante, ob sie auf deinem Rechner läuft — entscheiden musst nur du.

VarianteDateigrößeSpeicherbedarf (grob)
Keine Variantenliste verfügbar — schau in die Dateiliste bei Hugging Face.
Größenangaben aus der Dateiliste bei Hugging FaceAlle Dateien: HF ↗

So startest du NVIDIA-Nemotron-3.5-Lightning-30B-A3B-NVFP4-DSpark

  1. Herunterladen: Über den HF-Button oben (oder direkt in Ollama/LM Studio suchen).
  2. Starten: Unsere Anleitung zeigt dir die einfachsten Wege — LM Studio (Klick-Oberfläche) oder Ollama (ein Befehl).
  3. Chatten: Modell auswählen, lostippen. Ohne Internet, ohne Anmeldung.

Gleiches Modell lieber als API nutzen? Preisvergleich öffnen →

Häufige Fragen

Läuft NVIDIA-Nemotron-3.5-Lightning-30B-A3B-NVFP4-DSpark auf meinem Rechner?

Das zeigt dir der Check oben — Variante für Variante. Typische Größen: die übliche kompakte Variante wiegt –, die kleinste – — rechne grob ~2 GB Puffer dazu.

Was kostet NVIDIA-Nemotron-3.5-Lightning-30B-A3B-NVFP4-DSpark?

Nichts — das Modell ist kostenlos herunterladbar. Kosten entstehen nur für Strom oder eine gemietete GPU, falls dein Rechner zu klein ist.

Ähnliche Modelle: Qwen3.8-2B-Distill · Qwen3.8-2B-Distill · squeez-2b · Zurück zur Übersicht

Daten: Hugging Face API · ⟳ vor 7 Min (16.10. 19:14 UTC). Wir hosten keine Modelle — alle Links führen zu den offiziellen Quellen.