Saltar al contenido
Todos los dispositivos

48 GB VRAM · 960 GB/s · CUDA

Modelos de IA para RTX 6000 Ada Generation

Estos son los mejores modelos abiertos para cada tarea en RTX 6000 Ada Generation, con la nota de todos los modelos más abajo.

Tu hardware

…

Memoria
GB
Ancho de banda
GB/s
Contexto

 

Los más inteligentes en tu …

Inteligencia (ECI) de los modelos más inteligentes que cargan · el color indica cómo funcionan

Velocidad esperada

Tokens por segundo en tu … de los modelos más inteligentes que funcionan bien

Modelos disponibles con más memoria

Modelos abiertos que funcionan bien (nota B o superior) con cada memoria

Puntuaciones de 8 oct 2026 · 0 modelos nuevos en los dos últimos meses

Todos los modelos en RTX 6000 Ada Generation

Q4_K_M, 8K de contexto, 48 GB de memoria. Ajusta tu configuración arriba para cifras exactas.

NotaModeloMemoriaVelocidad
SmoonshotKimi Linear 48B A3B 49,1B28,4 GB~337 tok/s
SqwenQwen3.6 35B A3B 36B21,2 GB~324 tok/s
SqwenQwen3.5 35B A3B 36B21 GB~327 tok/s
SnvidiaNemotron 3.5 Lightning 30B A3B 31,6B24,1 GB~257 tok/s
SzaiGLM 4.7 Flash 31,2B17,8 GB~317 tok/s
SqwenQwen3 30B A3B Thinking 2507 30,5B18,3 GB~261 tok/s
SqwenQwen3 30B A3B Instruct 2507 30,5B18,3 GB~261 tok/s
ScohereNorth Mini Code 1.0 30,5B18,2 GB~279 tok/s
SgoogleGemma 4 26B A4B 25,8B16,5 GB~224 tok/s
SmistralDevstral Small 2 24B 24B14,9 GB~42 tok/s
SmistralMagistral Small 2509 24B14,9 GB~42 tok/s
SmistralMistral Small 3.2 24B 24B14,9 GB~42 tok/s
SmistralMagistral Small 2506 23,6B14,9 GB~42 tok/s
Sopenaigpt-oss 20b 20,9B11,3 GB~299 tok/s
SmicrosoftPhi-4 14B 14,7B10,1 GB~65 tok/s
SmistralMinistral 3 14B 14B9,2 GB~71 tok/s
SgoogleGemma 4 12B 12B7,4 GB~84 tok/s
SqwenQwen3.5 9B 9,7B5,8 GB~108 tok/s
SmistralMinistral 3 8B 8,9B6,2 GB~109 tok/s
SibmGranite 4.2 8B 8,8B6,7 GB~101 tok/s
SmetaLlama 3.1 8B Instruct 8B5,9 GB~115 tok/s
SgoogleGemma 4 E4B 8B5,1 GB~124 tok/s
Sai2Olmo 3 7B Instruct 7,3B7 GB~95 tok/s
SgoogleGemma 4 E2B 5,1B3,3 GB~200 tok/s
SqwenQwen3.5 4B 4,7B3,1 GB~219 tok/s
SmistralMinistral 3 3B 3,9B3,1 GB~244 tok/s
SibmGranite 4.2 3B 3,7B3,1 GB~237 tok/s
SmetaLlama 3.2 3B Instruct 3,2B3,1 GB~253 tok/s
ShuggingfaceSmolLM3 3B 3,1B2,6 GB~284 tok/s
SliquidLFM2.5 2.6B 2,7B2 GB~359 tok/s
SqwenQwen3.5 2B 2,3B1,6 GB~472 tok/s
SqwenQwen3.5 0.8B 0,9B0,9 GB~1079 tok/s
Aai2Olmo 3.1 32B Think 32,2B19,7 GB~31 tok/s
AgoogleGemma 4 31B 31,3B18,8 GB~32 tok/s
AibmGranite 4.2 30B 29,3B19,1 GB~33 tok/s
AqwenQwen3.8 27B 27,8B17 GB~36 tok/s
AqwenQwen3.6 27B 27,8B16,5 GB~37 tok/s
BqwenQwen3 Coder Next 79,7B45,7 GB~326 tok/s
BmetaLlama 3.3 70B Instruct 70,6B42,4 GB~14 tok/s
CmistralMistral Small 4 119B 119,4B68,1 GB~34 tok/s
Copenaigpt-oss 120b 116,8B59 GB~65 tok/s
CmetaLlama 4 Scout 17B 16E 108,6B62,7 GB~15 tok/s
32 modelos no caben en RTX 6000 Ada Generation
NotaModeloMemoriaVelocidad
FmoonshotKimi K3 2,8T1584,5 GB—
FdeepseekDeepSeek V4 Pro 0813 1,7T886,8 GB—
FdeepseekDeepSeek V4 Pro 1,6T886,8 GB—
FmoonshotKimi K2.6 1T578,8 GB—
FmoonshotKimi K2.7 Code 1T578,8 GB—
FmoonshotKimi K2.5 1T579,4 GB—
FmoonshotKimi K2 Thinking 1T579,4 GB—
FmoonshotKimi K2 Instruct 1T579 GB—
FtInkling 952,4B534 GB—
FdeepseekDeepSeek V4.1 Flash 763,2B435,8 GB—
FzaiGLM 5.1 753,9B429,2 GB—
FzaiGLM 5 753,9B425,7 GB—
FzaiGLM 5.2 753,3B424,5 GB—
FdeepseekDeepSeek V3.2 Exp 685,4B391,5 GB—
FdeepseekDeepSeek V3.2 685,4B378,5 GB—
FdeepseekDeepSeek V3.1 684,5B378,4 GB—
FnvidiaNemotron 3 Ultra 550B A55B 560,5B321,8 GB—
FminimaxMiniMax M3 427B244,6 GB—
FqwenQwen3.5 397B A17B 403,4B227,9 GB—
FzaiGLM 4.7 358,3B204,8 GB—
FzaiGLM 5.3 Flash 321,3B176,1 GB—
FdeepseekDeepSeek V4 Flash 0731 304,2B161 GB—
FdeepseekDeepSeek V4 Flash 290,9B166,7 GB—
FtInkling Small 266B149 GB—
FqwenQwen3 235B A22B Thinking 2507 235,1B134,2 GB—
FqwenQwen3 235B A22B Instruct 2507 235,1B134,2 GB—
FminimaxMiniMax M2.5 228,7B131,1 GB—
FminimaxMiniMax M2.7 228,7B131,5 GB—
FcohereCommand A+ 218,8B126,7 GB—
FqwenQwen3.8 Flash Next 180B111,9 GB—
FmistralMistral Medium 3.5 128B 127,7B72,8 GB—
FqwenQwen3.5 122B A10B 125,1B71,8 GB—

Comparte una velocidad medida

Ejecuta uno de estos y pega abajo la salida completa (o sólo los tokens por segundo):

llama-bench -m model.gguf
ollama run model --verbose

Se publica de forma anónima y se conserva. No guardamos cuenta ni dirección, sólo un hash que cambia cada día para limitar a diez envíos diarios.

Siguiente paso