So startest du dein erstes lokales Modell
Keine Sorge: Du brauchst nichts zu programmieren. Wähle den Weg, der zu dir passt — Text-Chat, Bilder oder Video.
KI-generiert
1 · Der einfachste Weg: LM Studio (für Einsteiger)
Für Text-Chat auf Windows, Mac oder Linux. Fertige Oberfläche, Modell-Suche eingebaut.
- lmstudio.ai öffnen und die App herunterladen.
- App starten → ins Suchfeld einen Modellnamen tippen (z. B.
qwenoderllama). Auf der Modellseite stehen die Varianten samt Größe — nimm eine, die zu deinem Speicher passt (mehr dazu in Abschnitt 4). - Auf Download klicken, danach den Chat-Tab öffnen und lostippen.
2 · Der Profi-Weg: Ollama (ein Befehl)
Für alle, die sich einen Terminal-Einzeiler zutrauen.
- ollama.com → App installieren.
- Terminal öffnen und z. B. eingeben:
ollama run qwen3
(oder ein anderes Modell von ollama.com/search). - Fertig — das Modell lädt automatisch und der Chat startet im Terminal.
3 · Bilder & Video: ComfyUI
Für Bild-Generierung (Stable-Diffusion-Klasse, Flux & Co.) und Video.
- ComfyUI auf GitHub — Desktop-Version für Windows/Mac herunterladen.
- Bei der Einrichtung ein Basismodell wählen (in der App oder über unsere Bild-Rubrik).
- Prompt eingeben, „Queue" drücken — Bild erscheint. Mehr Bilder pro Minute? Kleinere Modelle oder bessere GPU (auch mietbar, Link unten).
4 · Welche Variante passt zu meinem Rechner?
Viele Modelle gibt es in mehreren Varianten — vereinfacht gesagt: komprimierte Versionen, die weniger Speicher brauchen, dafür minimal an Qualität verlieren. Welche für dich sinnvoll ist, hängt von deinem Speicher ab; die Tabelle ist eine grobe Orientierung. Wenn du magst, lies dich in Ruhe ein — die Links stehen direkt unter der Tabelle.
| VRAM deiner Grafikkarte | Modellgröße (Q4) | Beispiele |
|---|---|---|
| keine GPU (nur CPU/RAM) | bis 7B, sehr langsam | kleine Modelle & Transkription |
| 6 GB | bis ~7B | Einsteiger-Chat |
| 8 GB | 8–9B | aktuelle 9B-Klasse |
| 12 GB | 12–14B | gute Allrounder |
| 16 GB | ~20B | bessere Qualität |
| 24 GB | 30–32B | obere Mittelklasse |
| 48 GB+ | 70B+ | Profi — oder mieten |
Zum Einlesen (freiwillig, hilft aber): LM Studio-Doku · Ollama-Doku · r/LocalLLaMA (Community)
5 · Und wenn mein Rechner zu schwach ist?
Dann miete dir eine GPU — stundenweise, ohne Vertragsbindung, in wenigen Minuten startklar. Ideal auch für Video-Modelle und 70B-Klasse.
Partner-Link (Werbung) — für dich gleicher Preis.
Häufige Fragen
Ist das wirklich kostenlos?
Ja. Die Modelle sind freie Downloads. Kosten entstehen nur über Strom — oder wenn du eine GPU mietest, weil deine eigene zu klein ist.
Ist das legal?
Ja — alle Modelle sind öffentlich verfügbar. Beim Nutzen gilt die jeweilige Lizenz (steht auf jeder Modellseite).
Brauche ich Internet?
Nur zum Herunterladen. Danach läuft alles offline — deine Daten bleiben auf deinem Rechner.
Unsicher, welches Modell? → Rechner einstellen und passende Modelle anzeigen lassen. Oder zurück zur Übersicht.