kipreise.info
Lokale Modelle › Text & Chat › POCKET-35B
FINAL-Bench · Text & Chat · ⟳ vor 2 Min (16.10. 19:14 UTC)

POCKET-35B

Sprachmodelle für Chat, Wissen und Alltag — die Klassiker für den eigenen Rechner.

Update Apache-2.0

Größe (kompakt)21,2 GB
Kleinste Variante8,2 GB
LizenzApache-2.0
Parameter35B
KategorieText & Chat
Downloads (30 Tage)532k
Likes84
Aktualisiertgestern
Erstelltvor 3 Mon.
Hersteller/OrgFINAL-Bench
Repo-Größe (alle Dateien)59,1 GB

Läuft das auf deinem Rechner?

Was kann es?

POCKET-35B ist ein lokales Textmodell mit 35 Milliarden Parametern, das auf eigenen Geräten für Aufgaben wie Textzusammenfassung, Übersetzung, Fragen beantworten und kreatives Schreiben läuft – ohne Internetverbindung.

Stärken

Mit 35 Milliarden Parametern und Apache-2.0-Lizenz gibt es für den Preis gewichtige Leistung und die volle Freiheit, das Modell selbst zu nutzen und anzupassen.

Grenzen

Für den flüssigen Betrieb braucht man trotz des „Pocket“-Namen mindestens 24–32 GB RAM, was den Einsatz auf Laptops einschränkt, und als relativ kleines Modell verliert es bei komplexen oder mehrschichtigen Aufgaben gegenüber größeren Modellen an Genauigkeit.

Für wen?

Wer ein offenes Modell lokal und datenschutzfreundlich betreiben will und keine Allzweck-KI sucht, sondern einen brauchbaren Textassistenten für konkrete Aufgaben.

So startest du es

Jeder Befehl ist fertig für dieses Modell: kopieren und in die Konsole einfügen.

GGUF-Fassung vorhanden: Ollama lädt es automatisch von Hugging Face (wahlweise die passende Größe).

🚀 Ollama (Ein-Klick)

Am einfachsten — fertig in 30 Sekunden.

ollama run hf.co/FINAL-Bench/POCKET-35B-GGUF
🖥️ LM Studio (grafische Oberfläche)

Für alle, die lieber klicken — kostenlos.

lms get FINAL-Bench/POCKET-35B-GGUF
⚙️ llama.cpp (für Profis)

Nach dem Download — Maximum an Tempo.

llama-cli -m POCKET-35B-Q4_K_M.gguf # Dateiname aus dem Download-Ordner
Dein Rechner

Besonderheiten

Was dieses Modell ausmacht — geprüft aus den offiziellen Angaben (⟳ vor 2 Min (16.10. 19:14 UTC)).

SprachmodellBeantwortet Fragen, schreibt und fasst Texte zusammen.
Basis: Darwin-36B-OpusAufgebaut auf FINAL-Bench/Darwin-36B-Opus (Quantisierung) — Original-Modellkarte beim Anbieter. Quelle ↗
In Spaces im Einsatz3 Hugging-Face-Spaces nutzen dieses Modell.
Mixtur-of-Experts256 Experten — nur ein Teil rechnet pro Anfrage.
Großes KontextfensterBis zu 262k Token auf einmal — ganze Dokumente in einem Rutsch.
4 VariantenGGUF-Dateien von 8,2 GB bis 21,2 GB — laufen mit llama.cpp, LM Studio & Ollama.
Kommerziell nutzbarLizenz: Apache-2.0.
Beliebt532k Downloads auf Hugging Face.
TechnikModelltyp: qwen3_5_moe_text · 40 Schichten · Bibliothek: llama.cpp

Alle Angaben stammen aus den offiziellen Quellen (Hugging Face) — wir hosten keine Modelle.

Wo bekommst du es?

Wir hosten nichts — hier geht es direkt zur Quelle. Die Anleitung unten zeigt dir Schritt für Schritt, wie du das Modell startest.

Auf Hugging Face herunterladen Bei Ollama suchen Bei LM Studio suchen

Größen & Quants

Kleinere Datei = weniger Speicherbedarf, dafür minimal geringere Qualität. Der Check oben zeigt dir für jede Variante, ob sie auf deinem Rechner läuft — entscheiden musst nur du.

VarianteDateigrößeSpeicherbedarf (grob)
POCKET-35B-IQ1_M8,2 GB10,2 GB
POCKET-35B-Q2_K12,9 GB14,9 GB
POCKET-35B-Q3_K_M16,8 GB18,8 GB
POCKET-35B-Q4_K_M21,2 GB23,2 GB
Größenangaben aus der Dateiliste bei Hugging FaceAlle Dateien: HF ↗
Zu groß für den Heim-PC? Mieten.

Dieses Modell braucht viel VRAM — auf einer gemieteten GPU läuft es sofort — stundenweise, ohne Vertragsbindung. Partner-Link (Werbung) – für dich gleicher Preis.

GPUs ansehen →

So startest du POCKET-35B

  1. Herunterladen: Über den HF-Button oben (oder direkt in Ollama/LM Studio suchen).
  2. Starten: Unsere Anleitung zeigt dir die einfachsten Wege — LM Studio (Klick-Oberfläche) oder Ollama (ein Befehl).
  3. Chatten: Modell auswählen, lostippen. Ohne Internet, ohne Anmeldung.

Gleiches Modell lieber als API nutzen? Preisvergleich öffnen →

Häufige Fragen

Läuft POCKET-35B auf meinem Rechner?

Das zeigt dir der Check oben — Variante für Variante. Typische Größen: die übliche kompakte Variante wiegt 21,2 GB, die kleinste 8,2 GB — rechne grob ~2 GB Puffer dazu.

Was kostet POCKET-35B?

Nichts — das Modell ist kostenlos herunterladbar. Kosten entstehen nur für Strom oder eine gemietete GPU, falls dein Rechner zu klein ist.

Ähnliche Modelle: APUS-Reflex-35B-A3B · Qwen3.8-35B-A3B-Distill · StartLux-Decision-35B-A3B · Zurück zur Übersicht

Daten: Hugging Face API · ⟳ vor 2 Min (16.10. 19:14 UTC). Wir hosten keine Modelle — alle Links führen zu den offiziellen Quellen.