Zum Inhalt
Alle Geräte

80 GB VRAM · 2039 GB/s · CUDA

KI-Modelle für A100 80GB (SXM)

Hier die besten offenen Modelle pro Aufgabe auf A100 80GB (SXM), darunter die Note jedes Modells.

Deine Hardware

…

Speicher
GB
Bandbreite
GB/s
Kontext

 

Die intelligentesten auf deinem …

Intelligenz (ECI) der intelligentesten Modelle, die laden · die Farbe zeigt, wie gut sie laufen

Erwartete Geschwindigkeit

Tokens pro Sekunde auf deinem … für die intelligentesten Modelle, die gut laufen

Modelle mit mehr Speicher

Offene Modelle, die gut laufen (Note B oder besser), je Speichergröße

Werte vom 8. Okt. 2026 · 0 neue Modelle in den letzten zwei Monaten

Alle Modelle auf A100 80GB (SXM)

Q4_K_M, 8K Kontext, 80 GB Speicher. Passe oben dein Setup an für genaue Werte.

NoteModellSpeicherTempo
Sopenaigpt-oss 120b 116,8B59 GB~461 tok/s
SmetaLlama 4 Scout 17B 16E 108,6B62,7 GB~121 tok/s
SqwenQwen3 Coder Next 79,7B45,7 GB~693 tok/s
SmoonshotKimi Linear 48B A3B 49,1B28,4 GB~715 tok/s
SqwenQwen3.6 35B A3B 36B21,2 GB~687 tok/s
SqwenQwen3.5 35B A3B 36B21 GB~695 tok/s
Sai2Olmo 3.1 32B Think 32,2B19,7 GB~65 tok/s
SnvidiaNemotron 3.5 Lightning 30B A3B 31,6B24,1 GB~546 tok/s
SgoogleGemma 4 31B 31,3B18,8 GB~69 tok/s
SzaiGLM 4.7 Flash 31,2B17,8 GB~674 tok/s
SqwenQwen3 30B A3B Thinking 2507 30,5B18,3 GB~555 tok/s
SqwenQwen3 30B A3B Instruct 2507 30,5B18,3 GB~555 tok/s
ScohereNorth Mini Code 1.0 30,5B18,2 GB~592 tok/s
SibmGranite 4.2 30B 29,3B19,1 GB~70 tok/s
SqwenQwen3.8 27B 27,8B17 GB~75 tok/s
SqwenQwen3.6 27B 27,8B16,5 GB~78 tok/s
SgoogleGemma 4 26B A4B 25,8B16,5 GB~477 tok/s
SmistralDevstral Small 2 24B 24B14,9 GB~89 tok/s
SmistralMagistral Small 2509 24B14,9 GB~89 tok/s
SmistralMistral Small 3.2 24B 24B14,9 GB~89 tok/s
SmistralMagistral Small 2506 23,6B14,9 GB~89 tok/s
Sopenaigpt-oss 20b 20,9B11,3 GB~635 tok/s
SmicrosoftPhi-4 14B 14,7B10,1 GB~137 tok/s
SmistralMinistral 3 14B 14B9,2 GB~150 tok/s
SgoogleGemma 4 12B 12B7,4 GB~178 tok/s
SqwenQwen3.5 9B 9,7B5,8 GB~230 tok/s
SmistralMinistral 3 8B 8,9B6,2 GB~232 tok/s
SibmGranite 4.2 8B 8,8B6,7 GB~215 tok/s
SmetaLlama 3.1 8B Instruct 8B5,9 GB~245 tok/s
SgoogleGemma 4 E4B 8B5,1 GB~263 tok/s
Sai2Olmo 3 7B Instruct 7,3B7 GB~202 tok/s
SgoogleGemma 4 E2B 5,1B3,3 GB~424 tok/s
SqwenQwen3.5 4B 4,7B3,1 GB~465 tok/s
SmistralMinistral 3 3B 3,9B3,1 GB~517 tok/s
SibmGranite 4.2 3B 3,7B3,1 GB~504 tok/s
SmetaLlama 3.2 3B Instruct 3,2B3,1 GB~537 tok/s
ShuggingfaceSmolLM3 3B 3,1B2,6 GB~602 tok/s
SliquidLFM2.5 2.6B 2,7B2 GB~763 tok/s
SqwenQwen3.5 2B 2,3B1,6 GB~1.004 tok/s
SqwenQwen3.5 0.8B 0,9B0,9 GB~2.292 tok/s
AmetaLlama 3.3 70B Instruct 70,6B42,4 GB~30 tok/s
BmistralMistral Medium 3.5 128B 127,7B72,8 GB~17 tok/s
BqwenQwen3.5 122B A10B 125,1B71,8 GB~215 tok/s
BmistralMistral Small 4 119B 119,4B68,1 GB~330 tok/s
30 Modelle passen nicht auf A100 80GB (SXM)
NoteModellSpeicherTempo
FmoonshotKimi K3 2,8T1.584,5 GB—
FdeepseekDeepSeek V4 Pro 0813 1,7T886,8 GB—
FdeepseekDeepSeek V4 Pro 1,6T886,8 GB—
FmoonshotKimi K2.6 1T578,8 GB—
FmoonshotKimi K2.7 Code 1T578,8 GB—
FmoonshotKimi K2.5 1T579,4 GB—
FmoonshotKimi K2 Thinking 1T579,4 GB—
FmoonshotKimi K2 Instruct 1T579 GB—
FtInkling 952,4B534 GB—
FdeepseekDeepSeek V4.1 Flash 763,2B435,8 GB—
FzaiGLM 5.1 753,9B429,2 GB—
FzaiGLM 5 753,9B425,7 GB—
FzaiGLM 5.2 753,3B424,5 GB—
FdeepseekDeepSeek V3.2 Exp 685,4B391,5 GB—
FdeepseekDeepSeek V3.2 685,4B378,5 GB—
FdeepseekDeepSeek V3.1 684,5B378,4 GB—
FnvidiaNemotron 3 Ultra 550B A55B 560,5B321,8 GB—
FminimaxMiniMax M3 427B244,6 GB—
FqwenQwen3.5 397B A17B 403,4B227,9 GB—
FzaiGLM 4.7 358,3B204,8 GB—
FzaiGLM 5.3 Flash 321,3B176,1 GB—
FdeepseekDeepSeek V4 Flash 0731 304,2B161 GB—
FdeepseekDeepSeek V4 Flash 290,9B166,7 GB—
FtInkling Small 266B149 GB—
FqwenQwen3 235B A22B Thinking 2507 235,1B134,2 GB—
FqwenQwen3 235B A22B Instruct 2507 235,1B134,2 GB—
FminimaxMiniMax M2.5 228,7B131,1 GB—
FminimaxMiniMax M2.7 228,7B131,5 GB—
FcohereCommand A+ 218,8B126,7 GB—
FqwenQwen3.8 Flash Next 180B111,9 GB—

Gemessene Geschwindigkeit teilen

Führe einen dieser Befehle aus und füge die ganze Ausgabe unten ein (oder nur die Tokens pro Sekunde):

llama-bench -m model.gguf
ollama run model --verbose

Anonym veröffentlicht und aufbewahrt. Wir speichern kein Konto und keine Adresse, nur einen täglich wechselnden Hash für ein Limit von zehn Einsendungen pro Tag.

Nächste Schritte