Alle Geräte
24 GB VRAM · 1008 GB/s · CUDA
24 GB VRAM · 1008 GB/s · CUDAKI-Modelle für RTX 4090
Hier die besten offenen Modelle pro Aufgabe auf RTX 4090, darunter die Note jedes Modells.
Deine Hardware
…
- Speicher
- GB
- Bandbreite
- GB/s
- Kontext
Die intelligentesten auf deinem …
Intelligenz (ECI) der intelligentesten Modelle, die laden · die Farbe zeigt, wie gut sie laufen
Erwartete Geschwindigkeit
Tokens pro Sekunde auf deinem … für die intelligentesten Modelle, die gut laufen
Modelle mit mehr Speicher
Offene Modelle, die gut laufen (Note B oder besser), je Speichergröße
Werte vom 8. Okt. 2026 · 0 neue Modelle in den letzten zwei Monaten
Alle Modelle auf RTX 4090
Q4_K_M, 8K Kontext, 24 GB Speicher. Passe oben dein Setup an für genaue Werte.
| Note | Modell | Speicher | Tempo |
|---|---|---|---|
| SHervorragend |  GLM 4.7 Flash 31,2B | 17,8 GB | ~333 tok/s |
| SHervorragend |  Qwen3 30B A3B Thinking 2507 30,5B | 18,3 GB | ~274 tok/s |
| SHervorragend | Qwen3 30B A3B Instruct 2507 30,5B | 18,3 GB | ~274 tok/s |
| SHervorragend |  North Mini Code 1.0 30,5B | 18,2 GB | ~293 tok/s |
| SHervorragend |  Gemma 4 26B A4B 25,8B | 16,5 GB | ~236 tok/s |
| SHervorragend |  Devstral Small 2 24B 24B | 14,9 GB | ~44 tok/s |
| SHervorragend | Magistral Small 2509 24B | 14,9 GB | ~44 tok/s |
| SHervorragend | Mistral Small 3.2 24B 24B | 14,9 GB | ~44 tok/s |
| SHervorragend | Magistral Small 2506 23,6B | 14,9 GB | ~44 tok/s |
| SHervorragend |  gpt-oss 20b 20,9B | 11,3 GB | ~314 tok/s |
| SHervorragend |  Phi-4 14B 14,7B | 10,1 GB | ~68 tok/s |
| SHervorragend | Ministral 3 14B 14B | 9,2 GB | ~74 tok/s |
| SHervorragend | Gemma 4 12B 12B | 7,4 GB | ~88 tok/s |
| SHervorragend | Qwen3.5 9B 9,7B | 5,8 GB | ~114 tok/s |
| SHervorragend | Ministral 3 8B 8,9B | 6,2 GB | ~114 tok/s |
| SHervorragend |  Granite 4.2 8B 8,8B | 6,7 GB | ~106 tok/s |
| SHervorragend |  Llama 3.1 8B Instruct 8B | 5,9 GB | ~121 tok/s |
| SHervorragend | Gemma 4 E4B 8B | 5,1 GB | ~130 tok/s |
| SHervorragend |  Olmo 3 7B Instruct 7,3B | 7 GB | ~100 tok/s |
| SHervorragend | Gemma 4 E2B 5,1B | 3,3 GB | ~210 tok/s |
| SHervorragend | Qwen3.5 4B 4,7B | 3,1 GB | ~230 tok/s |
| SHervorragend | Ministral 3 3B 3,9B | 3,1 GB | ~256 tok/s |
| SHervorragend | Granite 4.2 3B 3,7B | 3,1 GB | ~249 tok/s |
| SHervorragend | Llama 3.2 3B Instruct 3,2B | 3,1 GB | ~265 tok/s |
| SHervorragend |  SmolLM3 3B 3,1B | 2,6 GB | ~298 tok/s |
| SHervorragend |  LFM2.5 2.6B 2,7B | 2 GB | ~377 tok/s |
| SHervorragend | Qwen3.5 2B 2,3B | 1,6 GB | ~496 tok/s |
| SHervorragend | Qwen3.5 0.8B 0,9B | 0,9 GB | ~1.133 tok/s |
| AGut | Qwen3.8 27B 27,8B | 17 GB | ~37 tok/s |
| AGut | Qwen3.6 27B 27,8B | 16,5 GB | ~39 tok/s |
| BBrauchbar | Qwen3.6 35B A3B 36B | 21,2 GB | ~340 tok/s |
| BBrauchbar | Qwen3.5 35B A3B 36B | 21 GB | ~344 tok/s |
| BBrauchbar | Olmo 3.1 32B Think 32,2B | 19,7 GB | ~32 tok/s |
| BBrauchbar | Gemma 4 31B 31,3B | 18,8 GB | ~34 tok/s |
| BBrauchbar | Granite 4.2 30B 29,3B | 19,1 GB | ~35 tok/s |
| CLangsam |  Kimi Linear 48B A3B 49,1B | 28,4 GB | ~107 tok/s |
| CLangsam |  Nemotron 3.5 Lightning 30B A3B 31,6B | 24,1 GB | ~175 tok/s |
| DLäuft kaum | Llama 3.3 70B Instruct 70,6B | 42,4 GB | ~2 tok/s |
36 Modelle passen nicht auf RTX 4090
| Note | Modell | Speicher | Tempo |
|---|---|---|---|
| FPasst nicht | Kimi K3 2,8T | 1.584,5 GB | — |
| FPasst nicht |  DeepSeek V4 Pro 0813 1,7T | 886,8 GB | — |
| FPasst nicht | DeepSeek V4 Pro 1,6T | 886,8 GB | — |
| FPasst nicht | Kimi K2.6 1T | 578,8 GB | — |
| FPasst nicht | Kimi K2.7 Code 1T | 578,8 GB | — |
| FPasst nicht | Kimi K2.5 1T | 579,4 GB | — |
| FPasst nicht | Kimi K2 Thinking 1T | 579,4 GB | — |
| FPasst nicht | Kimi K2 Instruct 1T | 579 GB | — |
| FPasst nicht | tInkling 952,4B | 534 GB | — |
| FPasst nicht | DeepSeek V4.1 Flash 763,2B | 435,8 GB | — |
| FPasst nicht | GLM 5.1 753,9B | 429,2 GB | — |
| FPasst nicht | GLM 5 753,9B | 425,7 GB | — |
| FPasst nicht | GLM 5.2 753,3B | 424,5 GB | — |
| FPasst nicht | DeepSeek V3.2 Exp 685,4B | 391,5 GB | — |
| FPasst nicht | DeepSeek V3.2 685,4B | 378,5 GB | — |
| FPasst nicht | DeepSeek V3.1 684,5B | 378,4 GB | — |
| FPasst nicht | Nemotron 3 Ultra 550B A55B 560,5B | 321,8 GB | — |
| FPasst nicht |  MiniMax M3 427B | 244,6 GB | — |
| FPasst nicht | Qwen3.5 397B A17B 403,4B | 227,9 GB | — |
| FPasst nicht | GLM 4.7 358,3B | 204,8 GB | — |
| FPasst nicht | GLM 5.3 Flash 321,3B | 176,1 GB | — |
| FPasst nicht | DeepSeek V4 Flash 0731 304,2B | 161 GB | — |
| FPasst nicht | DeepSeek V4 Flash 290,9B | 166,7 GB | — |
| FPasst nicht | tInkling Small 266B | 149 GB | — |
| FPasst nicht | Qwen3 235B A22B Thinking 2507 235,1B | 134,2 GB | — |
| FPasst nicht | Qwen3 235B A22B Instruct 2507 235,1B | 134,2 GB | — |
| FPasst nicht | MiniMax M2.5 228,7B | 131,1 GB | — |
| FPasst nicht | MiniMax M2.7 228,7B | 131,5 GB | — |
| FPasst nicht | Command A+ 218,8B | 126,7 GB | — |
| FPasst nicht | Qwen3.8 Flash Next 180B | 111,9 GB | — |
| FPasst nicht | Mistral Medium 3.5 128B 127,7B | 72,8 GB | — |
| FPasst nicht | Qwen3.5 122B A10B 125,1B | 71,8 GB | — |
| FPasst nicht | Mistral Small 4 119B 119,4B | 68,1 GB | — |
| FPasst nicht | gpt-oss 120b 116,8B | 59 GB | — |
| FPasst nicht | Llama 4 Scout 17B 16E 108,6B | 62,7 GB | — |
| FPasst nicht | Qwen3 Coder Next 79,7B | 45,7 GB | — |