Zum Inhalt

DeepSeek V4 Pro 0813

MoE

DeepSeekDeepSeek · 1,7T (49B aktiv) · Mixture of Experts

DeepSeek V4 Pro 0813 ist ein 1,7T-Modell von DeepSeek mit 1M Token Kontext. In Q4_K_M mit 8K Kontext braucht es etwa 886,8 GB; mit 1110 GB bleibt Luft für lange Chats.

Hugging Face GGUF

Mixture of Experts

Parameter: 1,7T · Aktiv: 49B

Alle 1,7T Parameter liegen im Speicher, aber nur 49B arbeiten pro Token – es läuft also so schnell wie ein viel kleineres Modell.

Quantisierungsoptionen

Quant.SpeicherAuf deiner Hardware
Q2_K—…
Q3_K_M—…
Q4_K_M—…
Q5_K_M—…
Q6_K—…
Q8_0—…
F16—…

Speicher nach Kontextlänge

In Q4_K_M. Der Kontext-Cache wächst mit jedem Token, das das Modell im Blick behält.

KontextKontext-CacheGesamt
4K0,5 GB886,4 GB
8K1 GB886,8 GB
32K3,8 GB889,7 GB
128K15,3 GB901,1 GB
256K30,5 GB916,4 GB

Gemessene Geschwindigkeit teilen

Führe einen dieser Befehle aus und füge die ganze Ausgabe unten ein (oder nur die Tokens pro Sekunde):

llama-bench -m model.gguf
ollama run model --verbose

Anonym veröffentlicht und aufbewahrt. Wir speichern kein Konto und keine Adresse, nur einen täglich wechselnden Hash für ein Limit von zehn Einsendungen pro Tag.

Nächste Schritte

Die kleinste Hardware, auf der es gut läuft

Desktop-Geräte mit dem wenigsten Speicher, die DeepSeek V4 Pro 0813 bei Q4_K_M Note A oder S geben.

Kein Desktop-Gerät in unserem Katalog erreicht damit Note A oder besser.

Kann ich DeepSeek V4 Pro 0813 lokal ausführen?

Kann ich DeepSeek V4 Pro 0813 lokal ausführen?

Ja, wenn deine GPU oder dein Mac in Q4_K_M etwa 886,8 GB frei hat. Öffne diese Seite auf dem Rechner, um die Note für deine Hardware zu sehen, und starte es mit llama.cpp, Ollama oder LM Studio.

Wie viel Speicher braucht DeepSeek V4 Pro 0813?

Etwa 886,8 GB in Q4_K_M mit 8K Kontext und 1.634,6 GB in Q8_0. Niedrigere Quantisierungen passen auf kleinere Karten, mit etwas Qualitätsverlust; längerer Kontext kommt hinzu.