Kleinere Alternativen
Modelle, die weniger Speicher als DeepSeek V4.1 Flash brauchen und etwa gleich gut oder besser abschneiden.
DeepSeek · 763,2B (16B aktiv) · Mixture of Experts
DeepSeek V4.1 Flash ist ein 763,2B-Modell von DeepSeek mit 1M Token Kontext. In Q4_K_M mit 8K Kontext braucht es etwa 435,8 GB; mit 546 GB bleibt Luft für lange Chats.
Mixture of Experts
Parameter: 763,2B · Aktiv: 16B
Alle 763,2B Parameter liegen im Speicher, aber nur 16B arbeiten pro Token – es läuft also so schnell wie ein viel kleineres Modell.
| Quant. | Bits | Speicher | Qualität | Auf deiner Hardware |
|---|---|---|---|---|
| Q2_K | 3,16 | — | Spürbar schlechter | … |
| Q3_K_M | 4 | — | Etwas Verlust | … |
| Q4_K_M | 4,89 | — | Gut | … |
| Q5_K_M | 5,7 | — | Gut | … |
| Q6_K | 6,56 | — | Fast original | … |
| Q8_0 | 8,5 | — | Fast original | … |
| F16 | 16 | — | Original | … |
In Q4_K_M. Der Kontext-Cache wächst mit jedem Token, das das Modell im Blick behält.
| Kontext | Kontext-Cache | Gesamt |
|---|---|---|
| 4K | 0,3 GB | 435,5 GB |
| 8K | 0,6 GB | 435,8 GB |
| 32K | 2,5 GB | 437,7 GB |
| 128K | 10 GB | 445,2 GB |
| 256K | 20 GB | 455,2 GB |
Modelle, die weniger Speicher als DeepSeek V4.1 Flash brauchen und etwa gleich gut oder besser abschneiden.
Bewertete Modelle ähnlicher Größe, nebeneinander auf deinem Gerät.
Desktop-Geräte mit dem wenigsten Speicher, die DeepSeek V4.1 Flash bei Q4_K_M Note A oder S geben.
Kein Desktop-Gerät in unserem Katalog erreicht damit Note A oder besser.
Ja, wenn deine GPU oder dein Mac in Q4_K_M etwa 435,8 GB frei hat. Öffne diese Seite auf dem Rechner, um die Note für deine Hardware zu sehen, und starte es mit llama.cpp, Ollama oder LM Studio.
Etwa 435,8 GB in Q4_K_M mit 8K Kontext und 756,2 GB in Q8_0. Niedrigere Quantisierungen passen auf kleinere Karten, mit etwas Qualitätsverlust; längerer Kontext kommt hinzu.
Deine Privatsphäre
Wir nutzen PostHog, um zu verstehen, wie die Seite genutzt wird, und sie zu verbessern. Wenn du zustimmst, speichert es eine Kennung in deinem Browser und zeichnet deine Sitzung auf (Textfelder bleiben verborgen). Wenn du ablehnst, zählen wir den Besuch nur anonym, ohne Cookies. Du kannst das jederzeit im Fußbereich ändern.