Saltar al contenido

RTX 3080 Ti vs RTX 3090 para IA local

RTX 3080 Ti ejecuta bien 18 de 74 modelos abiertos y RTX 3090, 35. Aquí tienes cada modelo en los dos, con la nota y la velocidad que tendrías.

Ejecuta bien más modelos (nota B o mejor)

RTX 3090

RTX 3080 Ti: 18 · RTX 3090: 35

Más rápido en los modelos que ejecutan los dos

Prácticamente igual

Proporción mediana de velocidad en 18 modelos que los dos cargan enteros en memoria.

Especificaciones que importan

RTX 3080 Ti RTX 3090
Memoria comparada12 GB24 GB
Ancho de banda de memoria912.4 GB/s936.2 GB/s
Tipo de memoriaVRAM dedicadaVRAM dedicada
BackendCUDACUDA
Lanzamiento20212020

Cada modelo en los dos

Nota y velocidad de salida en Q4_K_M con contexto de 8K; el verde marca el mejor de los dos.

ModeloECIRTX 3080 TiRTX 3090
moonshotKimi K3157F—F—
deepseekDeepSeek V4 Pro 0813155F—F—
deepseekDeepSeek V4.1 Flash155F—F—
deepseekDeepSeek V4 Flash 0731154F—F—
zaiGLM 5.3 Flash152F—F—
zaiGLM 5.2152F—F—
moonshotKimi K2.6151F—F—
tInkling Small150F—F—
moonshotKimi K2.7 Code150F—F—
zaiGLM 5.1150F—F—
qwenQwen3.8 27B149C~7 t/sA~35 t/s
deepseekDeepSeek V4 Pro149F—F—
tInkling149F—F—
moonshotKimi K2.5148F—F—
minimaxMiniMax M3147F—F—
minimaxMiniMax M2.5147F—F—
qwenQwen3.5 397B A17B147F—F—
qwenQwen3.6 27B147C~8 t/sA~36 t/s
deepseekDeepSeek V3.2146F—F—
nvidiaNemotron 3 Ultra 550B A55B146F—F—
deepseekDeepSeek V4 Flash146F—F—
moonshotKimi K2 Thinking146F—F—
minimaxMiniMax M2.7146F—F—
zaiGLM 5146F—F—
deepseekDeepSeek V3.2 Exp145F—F—
qwenQwen3.6 35B A3B144C~49 t/sB~316 t/s
qwenQwen3 235B A22B Thinking 2507144F—F—
zaiGLM 4.7144F—F—
googleGemma 4 31B143C~6 t/sB~31 t/s
qwenQwen3.5 35B A3B143C~50 t/sB~319 t/s
googleGemma 4 26B A4B142C~46 t/sS~219 t/s
mistralMistral Medium 3.5 128B141F—F—
moonshotKimi K2140F—F—
openaigpt-oss 120b140F—F—
deepseekDeepSeek V3.1140F—F—
qwenQwen3 30B A3B Thinking 2507140C~46 t/sS~255 t/s
qwenQwen3.5 9B139S~103 t/sS~105 t/s
qwenQwen3 235B A22B 2507139F—F—
openaigpt-oss 20b138C~218 t/sS~291 t/s
qwenQwen3 30B A3B 2507137C~46 t/sS~255 t/s
mistralMagistral Small 2506133C~10 t/sS~41 t/s
mistralMistral Small 3.2 24B132C~10 t/sS~41 t/s
mistralMagistral Small 2509131C~10 t/sS~41 t/s
microsoftPhi-4 14B130B~61 t/sS~63 t/s
metaLlama 4 Scout 17B 16E130F—F—
metaLlama 3.3 70B127F—D~2 t/s
metaLlama 3.1 8B117S~110 t/sS~112 t/s
cohereCommand A+—F—F—
qwenQwen3.8 Flash Next—F—F—
qwenQwen3.5 122B A10B—F—F—
mistralMistral Small 4 119B—F—F—
qwenQwen3 Coder Next—F—F—
moonshotKimi Linear 48B A3B—C~42 t/sC~105 t/s
ai2Olmo 3.1 32B Think—C~5 t/sB~30 t/s
nvidiaNemotron 3.5 Lightning 30B A3B—C~35 t/sC~167 t/s
zaiGLM 4.7 Flash—C~59 t/sS~310 t/s
cohereNorth Mini Code 1.0—C~50 t/sS~272 t/s
ibmGranite 4.2 30B—C~6 t/sB~32 t/s
mistralDevstral Small 2 24B—C~10 t/sS~41 t/s
mistralMinistral 3 14B—B~67 t/sS~69 t/s
googleGemma 4 12B—S~79 t/sS~82 t/s
mistralMinistral 3 8B—S~104 t/sS~106 t/s
ibmGranite 4.2 8B—S~96 t/sS~99 t/s
googleGemma 4 E4B—S~118 t/sS~121 t/s
ai2Olmo 3 7B—S~90 t/sS~93 t/s
googleGemma 4 E2B—S~190 t/sS~195 t/s
qwenQwen3.5 4B—S~208 t/sS~213 t/s
mistralMinistral 3 3B—S~231 t/sS~237 t/s
ibmGranite 4.2 3B—S~225 t/sS~231 t/s
metaLlama 3.2 3B—S~240 t/sS~246 t/s
huggingfaceSmolLM3 3B—S~270 t/sS~277 t/s
liquidLFM2.5 2.6B—S~341 t/sS~350 t/s
qwenQwen3.5 2B—S~449 t/sS~461 t/s
qwenQwen3.5 0.8B—S~1026 t/sS~1052 t/s

Estimaciones a partir de especificaciones y mediciones publicadas, calibradas por backend. Tus drivers, ajustes y programa cambian las cifras reales.

Cambia memoria, contexto o cuantizaciónAbre esta comparación en la herramienta interactiva.