Alle Geräte
48 GB VRAM · 864 GB/s · CUDA
48 GB VRAM · 864 GB/s · CUDAKI-Modelle für L40S
Hier die besten offenen Modelle pro Aufgabe auf L40S, darunter die Note jedes Modells.
Deine Hardware
…
- Speicher
- GB
- Bandbreite
- GB/s
- Kontext
Die intelligentesten auf deinem …
Intelligenz (ECI) der intelligentesten Modelle, die laden · die Farbe zeigt, wie gut sie laufen
Erwartete Geschwindigkeit
Tokens pro Sekunde auf deinem … für die intelligentesten Modelle, die gut laufen
Modelle mit mehr Speicher
Offene Modelle, die gut laufen (Note B oder besser), je Speichergröße
Werte vom 8. Okt. 2026 · 0 neue Modelle in den letzten zwei Monaten
Alle Modelle auf L40S
Q4_K_M, 8K Kontext, 48 GB Speicher. Passe oben dein Setup an für genaue Werte.
| Note | Modell | Speicher | Tempo |
|---|---|---|---|
| SHervorragend |  Kimi Linear 48B A3B 49,1B | 28,4 GB | ~303 tok/s |
| SHervorragend |  Qwen3.6 35B A3B 36B | 21,2 GB | ~291 tok/s |
| SHervorragend | Qwen3.5 35B A3B 36B | 21 GB | ~295 tok/s |
| SHervorragend |  Nemotron 3.5 Lightning 30B A3B 31,6B | 24,1 GB | ~231 tok/s |
| SHervorragend |  GLM 4.7 Flash 31,2B | 17,8 GB | ~286 tok/s |
| SHervorragend | Qwen3 30B A3B Thinking 2507 30,5B | 18,3 GB | ~235 tok/s |
| SHervorragend | Qwen3 30B A3B Instruct 2507 30,5B | 18,3 GB | ~235 tok/s |
| SHervorragend |  North Mini Code 1.0 30,5B | 18,2 GB | ~251 tok/s |
| SHervorragend |  Gemma 4 26B A4B 25,8B | 16,5 GB | ~202 tok/s |
| SHervorragend |  gpt-oss 20b 20,9B | 11,3 GB | ~269 tok/s |
| SHervorragend |  Phi-4 14B 14,7B | 10,1 GB | ~58 tok/s |
| SHervorragend |  Ministral 3 14B 14B | 9,2 GB | ~64 tok/s |
| SHervorragend | Gemma 4 12B 12B | 7,4 GB | ~75 tok/s |
| SHervorragend | Qwen3.5 9B 9,7B | 5,8 GB | ~97 tok/s |
| SHervorragend | Ministral 3 8B 8,9B | 6,2 GB | ~98 tok/s |
| SHervorragend |  Granite 4.2 8B 8,8B | 6,7 GB | ~91 tok/s |
| SHervorragend |  Llama 3.1 8B Instruct 8B | 5,9 GB | ~104 tok/s |
| SHervorragend | Gemma 4 E4B 8B | 5,1 GB | ~112 tok/s |
| SHervorragend |  Olmo 3 7B Instruct 7,3B | 7 GB | ~86 tok/s |
| SHervorragend | Gemma 4 E2B 5,1B | 3,3 GB | ~180 tok/s |
| SHervorragend | Qwen3.5 4B 4,7B | 3,1 GB | ~197 tok/s |
| SHervorragend | Ministral 3 3B 3,9B | 3,1 GB | ~219 tok/s |
| SHervorragend | Granite 4.2 3B 3,7B | 3,1 GB | ~213 tok/s |
| SHervorragend | Llama 3.2 3B Instruct 3,2B | 3,1 GB | ~227 tok/s |
| SHervorragend |  SmolLM3 3B 3,1B | 2,6 GB | ~255 tok/s |
| SHervorragend |  LFM2.5 2.6B 2,7B | 2 GB | ~323 tok/s |
| SHervorragend | Qwen3.5 2B 2,3B | 1,6 GB | ~425 tok/s |
| SHervorragend | Qwen3.5 0.8B 0,9B | 0,9 GB | ~971 tok/s |
| AGut | Olmo 3.1 32B Think 32,2B | 19,7 GB | ~28 tok/s |
| AGut | Gemma 4 31B 31,3B | 18,8 GB | ~29 tok/s |
| AGut | Granite 4.2 30B 29,3B | 19,1 GB | ~30 tok/s |
| AGut | Qwen3.8 27B 27,8B | 17 GB | ~32 tok/s |
| AGut | Qwen3.6 27B 27,8B | 16,5 GB | ~33 tok/s |
| AGut | Devstral Small 2 24B 24B | 14,9 GB | ~38 tok/s |
| AGut | Magistral Small 2509 24B | 14,9 GB | ~38 tok/s |
| AGut | Mistral Small 3.2 24B 24B | 14,9 GB | ~38 tok/s |
| AGut | Magistral Small 2506 23,6B | 14,9 GB | ~38 tok/s |
| BBrauchbar | Qwen3 Coder Next 79,7B | 45,7 GB | ~294 tok/s |
| BBrauchbar | Llama 3.3 70B Instruct 70,6B | 42,4 GB | ~13 tok/s |
| CLangsam | Mistral Small 4 119B 119,4B | 68,1 GB | ~33 tok/s |
| CLangsam | gpt-oss 120b 116,8B | 59 GB | ~63 tok/s |
| CLangsam | Llama 4 Scout 17B 16E 108,6B | 62,7 GB | ~14 tok/s |
32 Modelle passen nicht auf L40S
| Note | Modell | Speicher | Tempo |
|---|---|---|---|
| FPasst nicht | Kimi K3 2,8T | 1.584,5 GB | — |
| FPasst nicht |  DeepSeek V4 Pro 0813 1,7T | 886,8 GB | — |
| FPasst nicht | DeepSeek V4 Pro 1,6T | 886,8 GB | — |
| FPasst nicht | Kimi K2.6 1T | 578,8 GB | — |
| FPasst nicht | Kimi K2.7 Code 1T | 578,8 GB | — |
| FPasst nicht | Kimi K2.5 1T | 579,4 GB | — |
| FPasst nicht | Kimi K2 Thinking 1T | 579,4 GB | — |
| FPasst nicht | Kimi K2 Instruct 1T | 579 GB | — |
| FPasst nicht | tInkling 952,4B | 534 GB | — |
| FPasst nicht | DeepSeek V4.1 Flash 763,2B | 435,8 GB | — |
| FPasst nicht | GLM 5.1 753,9B | 429,2 GB | — |
| FPasst nicht | GLM 5 753,9B | 425,7 GB | — |
| FPasst nicht | GLM 5.2 753,3B | 424,5 GB | — |
| FPasst nicht | DeepSeek V3.2 Exp 685,4B | 391,5 GB | — |
| FPasst nicht | DeepSeek V3.2 685,4B | 378,5 GB | — |
| FPasst nicht | DeepSeek V3.1 684,5B | 378,4 GB | — |
| FPasst nicht | Nemotron 3 Ultra 550B A55B 560,5B | 321,8 GB | — |
| FPasst nicht |  MiniMax M3 427B | 244,6 GB | — |
| FPasst nicht | Qwen3.5 397B A17B 403,4B | 227,9 GB | — |
| FPasst nicht | GLM 4.7 358,3B | 204,8 GB | — |
| FPasst nicht | GLM 5.3 Flash 321,3B | 176,1 GB | — |
| FPasst nicht | DeepSeek V4 Flash 0731 304,2B | 161 GB | — |
| FPasst nicht | DeepSeek V4 Flash 290,9B | 166,7 GB | — |
| FPasst nicht | tInkling Small 266B | 149 GB | — |
| FPasst nicht | Qwen3 235B A22B Thinking 2507 235,1B | 134,2 GB | — |
| FPasst nicht | Qwen3 235B A22B Instruct 2507 235,1B | 134,2 GB | — |
| FPasst nicht | MiniMax M2.5 228,7B | 131,1 GB | — |
| FPasst nicht | MiniMax M2.7 228,7B | 131,5 GB | — |
| FPasst nicht | Command A+ 218,8B | 126,7 GB | — |
| FPasst nicht | Qwen3.8 Flash Next 180B | 111,9 GB | — |
| FPasst nicht | Mistral Medium 3.5 128B 127,7B | 72,8 GB | — |
| FPasst nicht | Qwen3.5 122B A10B 125,1B | 71,8 GB | — |