Alle Geräte
64 / 128 GB Unified · 273 GB/s · CUDA
64 / 128 GB Unified · 273 GB/s · CUDAKI-Modelle für Jetson AGX Thor
Hier die besten offenen Modelle pro Aufgabe auf Jetson AGX Thor, darunter die Note jedes Modells.
Deine Hardware
…
- Speicher
- GB
- Bandbreite
- GB/s
- Kontext
Die intelligentesten auf deinem …
Intelligenz (ECI) der intelligentesten Modelle, die laden · die Farbe zeigt, wie gut sie laufen
Erwartete Geschwindigkeit
Tokens pro Sekunde auf deinem … für die intelligentesten Modelle, die gut laufen
Modelle mit mehr Speicher
Offene Modelle, die gut laufen (Note B oder besser), je Speichergröße
Werte vom 8. Okt. 2026 · 0 neue Modelle in den letzten zwei Monaten
Alle Modelle auf Jetson AGX Thor
Q4_K_M, 8K Kontext, 64 GB Speicher. Passe oben dein Setup an für genaue Werte.
| Note | Modell | Speicher | Tempo |
|---|---|---|---|
| SHervorragend |  Qwen3.6 35B A3B 36B | 21,2 GB | ~92 tok/s |
| SHervorragend | Qwen3.5 35B A3B 36B | 21 GB | ~93 tok/s |
| SHervorragend |  Nemotron 3.5 Lightning 30B A3B 31,6B | 24,1 GB | ~73 tok/s |
| SHervorragend |  GLM 4.7 Flash 31,2B | 17,8 GB | ~90 tok/s |
| SHervorragend | Qwen3 30B A3B Thinking 2507 30,5B | 18,3 GB | ~74 tok/s |
| SHervorragend | Qwen3 30B A3B Instruct 2507 30,5B | 18,3 GB | ~74 tok/s |
| SHervorragend |  North Mini Code 1.0 30,5B | 18,2 GB | ~79 tok/s |
| SHervorragend |  Gemma 4 26B A4B 25,8B | 16,5 GB | ~64 tok/s |
| SHervorragend |  gpt-oss 20b 20,9B | 11,3 GB | ~85 tok/s |
| SHervorragend | Gemma 4 E2B 5,1B | 3,3 GB | ~57 tok/s |
| SHervorragend | Qwen3.5 4B 4,7B | 3,1 GB | ~62 tok/s |
| SHervorragend |  Ministral 3 3B 3,9B | 3,1 GB | ~69 tok/s |
| SHervorragend |  Granite 4.2 3B 3,7B | 3,1 GB | ~67 tok/s |
| SHervorragend |  Llama 3.2 3B Instruct 3,2B | 3,1 GB | ~72 tok/s |
| SHervorragend |  SmolLM3 3B 3,1B | 2,6 GB | ~81 tok/s |
| SHervorragend |  LFM2.5 2.6B 2,7B | 2 GB | ~102 tok/s |
| SHervorragend | Qwen3.5 2B 2,3B | 1,6 GB | ~134 tok/s |
| SHervorragend | Qwen3.5 0.8B 0,9B | 0,9 GB | ~307 tok/s |
| AGut | Ministral 3 14B 14B | 9,2 GB | ~20 tok/s |
| AGut | Gemma 4 12B 12B | 7,4 GB | ~24 tok/s |
| AGut | Qwen3.5 9B 9,7B | 5,8 GB | ~31 tok/s |
| AGut | Ministral 3 8B 8,9B | 6,2 GB | ~31 tok/s |
| AGut | Granite 4.2 8B 8,8B | 6,7 GB | ~29 tok/s |
| AGut | Llama 3.1 8B Instruct 8B | 5,9 GB | ~33 tok/s |
| AGut | Gemma 4 E4B 8B | 5,1 GB | ~35 tok/s |
| AGut |  Olmo 3 7B Instruct 7,3B | 7 GB | ~27 tok/s |
| BBrauchbar |  Kimi Linear 48B A3B 49,1B | 28,4 GB | ~96 tok/s |
| BBrauchbar | Qwen3.8 27B 27,8B | 17 GB | ~10 tok/s |
| BBrauchbar | Qwen3.6 27B 27,8B | 16,5 GB | ~10 tok/s |
| BBrauchbar | Devstral Small 2 24B 24B | 14,9 GB | ~12 tok/s |
| BBrauchbar | Magistral Small 2509 24B | 14,9 GB | ~12 tok/s |
| BBrauchbar | Mistral Small 3.2 24B 24B | 14,9 GB | ~12 tok/s |
| BBrauchbar | Magistral Small 2506 23,6B | 14,9 GB | ~12 tok/s |
| BBrauchbar |  Phi-4 14B 14,7B | 10,1 GB | ~18 tok/s |
| CLangsam | Olmo 3.1 32B Think 32,2B | 19,7 GB | ~9 tok/s |
| CLangsam | Gemma 4 31B 31,3B | 18,8 GB | ~9 tok/s |
| CLangsam | Granite 4.2 30B 29,3B | 19,1 GB | ~9 tok/s |
37 Modelle passen nicht auf Jetson AGX Thor
| Note | Modell | Speicher | Tempo |
|---|---|---|---|
| FPasst nicht | Kimi K3 2,8T | 1.584,5 GB | — |
| FPasst nicht |  DeepSeek V4 Pro 0813 1,7T | 886,8 GB | — |
| FPasst nicht | DeepSeek V4 Pro 1,6T | 886,8 GB | — |
| FPasst nicht | Kimi K2.6 1T | 578,8 GB | — |
| FPasst nicht | Kimi K2.7 Code 1T | 578,8 GB | — |
| FPasst nicht | Kimi K2.5 1T | 579,4 GB | — |
| FPasst nicht | Kimi K2 Thinking 1T | 579,4 GB | — |
| FPasst nicht | Kimi K2 Instruct 1T | 579 GB | — |
| FPasst nicht | tInkling 952,4B | 534 GB | — |
| FPasst nicht | DeepSeek V4.1 Flash 763,2B | 435,8 GB | — |
| FPasst nicht | GLM 5.1 753,9B | 429,2 GB | — |
| FPasst nicht | GLM 5 753,9B | 425,7 GB | — |
| FPasst nicht | GLM 5.2 753,3B | 424,5 GB | — |
| FPasst nicht | DeepSeek V3.2 Exp 685,4B | 391,5 GB | — |
| FPasst nicht | DeepSeek V3.2 685,4B | 378,5 GB | — |
| FPasst nicht | DeepSeek V3.1 684,5B | 378,4 GB | — |
| FPasst nicht | Nemotron 3 Ultra 550B A55B 560,5B | 321,8 GB | — |
| FPasst nicht |  MiniMax M3 427B | 244,6 GB | — |
| FPasst nicht | Qwen3.5 397B A17B 403,4B | 227,9 GB | — |
| FPasst nicht | GLM 4.7 358,3B | 204,8 GB | — |
| FPasst nicht | GLM 5.3 Flash 321,3B | 176,1 GB | — |
| FPasst nicht | DeepSeek V4 Flash 0731 304,2B | 161 GB | — |
| FPasst nicht | DeepSeek V4 Flash 290,9B | 166,7 GB | — |
| FPasst nicht | tInkling Small 266B | 149 GB | — |
| FPasst nicht | Qwen3 235B A22B Thinking 2507 235,1B | 134,2 GB | — |
| FPasst nicht | Qwen3 235B A22B Instruct 2507 235,1B | 134,2 GB | — |
| FPasst nicht | MiniMax M2.5 228,7B | 131,1 GB | — |
| FPasst nicht | MiniMax M2.7 228,7B | 131,5 GB | — |
| FPasst nicht | Command A+ 218,8B | 126,7 GB | — |
| FPasst nicht | Qwen3.8 Flash Next 180B | 111,9 GB | — |
| FPasst nicht | Mistral Medium 3.5 128B 127,7B | 72,8 GB | — |
| FPasst nicht | Qwen3.5 122B A10B 125,1B | 71,8 GB | — |
| FPasst nicht | Mistral Small 4 119B 119,4B | 68,1 GB | — |
| FPasst nicht | gpt-oss 120b 116,8B | 59 GB | — |
| FPasst nicht | Llama 4 Scout 17B 16E 108,6B | 62,7 GB | — |
| FPasst nicht | Qwen3 Coder Next 79,7B | 45,7 GB | — |
| FPasst nicht | Llama 3.3 70B Instruct 70,6B | 42,4 GB | — |