Kleinere Alternativen
Modelle, die weniger Speicher als DeepSeek V4 Flash 0731 brauchen und etwa gleich gut oder besser abschneiden.
Kein bewertetes Modell ist zugleich kleiner und fast so intelligent wie DeepSeek V4 Flash 0731.
DeepSeek V4 Flash 0731
MoE
DeepSeek · 304,2B (13B aktiv) · Mixture of Experts
DeepSeek V4 Flash 0731 ist ein 304,2B-Modell von DeepSeek mit 1M Token Kontext. In Q4_K_M mit 8K Kontext braucht es etwa 161 GB; mit 203 GB bleibt Luft für lange Chats.
Mixture of Experts
Parameter: 304,2B · Aktiv: 13B
Alle 304,2B Parameter liegen im Speicher, aber nur 13B arbeiten pro Token – es läuft also so schnell wie ein viel kleineres Modell.
Quantisierungsoptionen
| Quant. | Bits | Speicher | Qualität | Auf deiner Hardware |
|---|---|---|---|---|
| Q2_K | 3,16 | — | Spürbar schlechter | … |
| Q3_K_M | 4 | — | Etwas Verlust | … |
| Q4_K_M | 4,89 | — | Gut | … |
| Q5_K_M | 5,7 | — | Gut | … |
| Q6_K | 6,56 | — | Fast original | … |
| Q8_0 | 8,5 | — | Fast original | … |
| F16 | 16 | — | Original | … |
Speicher nach Kontextlänge
In Q4_K_M. Der Kontext-Cache wächst mit jedem Token, das das Modell im Blick behält.
| Kontext | Kontext-Cache | Gesamt |
|---|---|---|
| 4K | 0,3 GB | 160,7 GB |
| 8K | 0,7 GB | 161 GB |
| 32K | 2,7 GB | 163 GB |
| 128K | 10,8 GB | 171,1 GB |
| 256K | 21,5 GB | 181,8 GB |
Nächste Schritte
Vergleiche es mit
Bewertete Modelle ähnlicher Größe, nebeneinander auf deinem Gerät.
Die kleinste Hardware, auf der es gut läuft
Desktop-Geräte mit dem wenigsten Speicher, die DeepSeek V4 Flash 0731 bei Q4_K_M Note A oder S geben.
Kann ich DeepSeek V4 Flash 0731 lokal ausführen?
Kann ich DeepSeek V4 Flash 0731 lokal ausführen?
Ja, wenn deine GPU oder dein Mac in Q4_K_M etwa 161 GB frei hat. Öffne diese Seite auf dem Rechner, um die Note für deine Hardware zu sehen, und starte es mit llama.cpp, Ollama oder LM Studio.
Wie viel Speicher braucht DeepSeek V4 Flash 0731?
Etwa 161 GB in Q4_K_M mit 8K Kontext und 282,4 GB in Q8_0. Niedrigere Quantisierungen passen auf kleinere Karten, mit etwas Qualitätsverlust; längerer Kontext kommt hinzu.