Kleinere Alternativen
Modelle, die weniger Speicher als Kimi K3 brauchen und etwa gleich gut oder besser abschneiden.
Kimi K3
MoEVision
Moonshot AI · 2,8T (104B aktiv) · Mixture of Experts
Kimi K3 ist ein 2,8T-Modell von Moonshot AI mit 1M Token Kontext. In Q4_K_M mit 8K Kontext braucht es etwa 1.584,5 GB; mit 1982 GB bleibt Luft für lange Chats.
Mixture of Experts
Parameter: 2,8T · Aktiv: 104B
Alle 2,8T Parameter liegen im Speicher, aber nur 104B arbeiten pro Token – es läuft also so schnell wie ein viel kleineres Modell.
Quantisierungsoptionen
| Quant. | Bits | Speicher | Qualität | Auf deiner Hardware |
|---|---|---|---|---|
| Q2_K | 3,16 | — | Spürbar schlechter | … |
| Q3_K_M | 4 | — | Etwas Verlust | … |
| Q4_K_M | 4,89 | — | Gut | … |
| Q5_K_M | 5,7 | — | Gut | … |
| Q6_K | 6,56 | — | Fast original | … |
| Q8_0 | 8,5 | — | Fast original | … |
| F16 | 16 | — | Original | … |
Speicher nach Kontextlänge
In Q4_K_M. Der Kontext-Cache wächst mit jedem Token, das das Modell im Blick behält.
| Kontext | Kontext-Cache | Gesamt |
|---|---|---|
| 4K | 0,1 GB | 1.584,4 GB |
| 8K | 0,2 GB | 1.584,5 GB |
| 32K | 0,8 GB | 1.585,1 GB |
| 128K | 3,4 GB | 1.587,6 GB |
| 256K | 6,8 GB | 1.591 GB |
Nächste Schritte
Vergleiche es mit
Bewertete Modelle ähnlicher Größe, nebeneinander auf deinem Gerät.
Die kleinste Hardware, auf der es gut läuft
Desktop-Geräte mit dem wenigsten Speicher, die Kimi K3 bei Q4_K_M Note A oder S geben.
Kein Desktop-Gerät in unserem Katalog erreicht damit Note A oder besser.
Kann ich Kimi K3 lokal ausführen?
Kann ich Kimi K3 lokal ausführen?
Ja, wenn deine GPU oder dein Mac in Q4_K_M etwa 1.584,5 GB frei hat. Öffne diese Seite auf dem Rechner, um die Note für deine Hardware zu sehen, und starte es mit llama.cpp, Ollama oder LM Studio.
Wie viel Speicher braucht Kimi K3?
Etwa 1.584,5 GB in Q4_K_M mit 8K Kontext und 2.751,6 GB in Q8_0. Niedrigere Quantisierungen passen auf kleinere Karten, mit etwas Qualitätsverlust; längerer Kontext kommt hinzu.