Los mejores modelos de IA en local para 32 GB de VRAM

37 modelos abiertos caben en 32 GB de memoria gráfica en Q4_K_M con contexto de 8K; 15 tienen puntuación de inteligencia independiente. Aquí están clasificados, con el contexto más largo que admite cada uno.

Las mejores elecciones para 32 GB

#1 · ECI 149,4

Qwen3.8 27B

Memoria: 17 GB
Contexto máx.: 128K
Velocidad: ~66 t/s

#2 · ECI 146,5

Qwen3.6 27B

Memoria: 16,5 GB
Contexto máx.: 128K
Velocidad: ~69 t/s

#3 · ECI 143,9

Qwen3.6 35B A3B

Memoria: 21,2 GB
Contexto máx.: 256K
Velocidad: ~604 t/s

Velocidades en RTX 5090, la tarjeta NVIDIA más reciente con esta memoria. El contexto máximo es el más largo que aún carga sin desbordar a la RAM.

Todos los modelos puntuados que caben en 32 GB

#	Modelo	ECI	Memoria	Contexto máx.	Velocidad
1	Qwen3.8 27B	149,4	17 GB	128K	~66 t/s
2	Qwen3.6 27B	146,5	16,5 GB	128K	~69 t/s
3	Qwen3.6 35B A3B	143,9	21,2 GB	256K	~604 t/s
4	Gemma 4 31B	142,7	18,8 GB	128K	~60 t/s
5	Qwen3.5 35B A3B	142,5	21 GB	256K	~611 t/s
6	Gemma 4 26B A4B	141,9	16,5 GB	256K	~419 t/s
7	Qwen3 30B A3B Thinking 2507	139,6	18,3 GB	128K	~487 t/s
8	Qwen3.5 9B	139,5	5,8 GB	256K	~202 t/s
9	gpt-oss 20b	137,8	11,3 GB	128K	~558 t/s
10	Qwen3 30B A3B 2507	137,4	18,3 GB	128K	~487 t/s
11	Magistral Small 2506	133,2	14,9 GB	32K	~78 t/s
12	Mistral Small 3.2 24B	131,7	14,9 GB	64K	~78 t/s
13	Magistral Small 2509	131,4	14,9 GB	64K	~78 t/s
14	Phi-4 14B	130,4	10,1 GB	16K	~121 t/s
15	Llama 3.1 8B	116,6	5,9 GB	128K	~215 t/s

22 más que caben pero aún no tienen puntuación independiente

Los más grandes primero, con el contexto más largo que admite cada uno.

Memoria en Q4_K_M con contexto de 8K, incluidos los búferes del propio programa. Una cuantización menor cabe en menos; un contexto más largo necesita más.

Lo que añaden 48 GB

1 modelos puntuados más caben en 48 GB; abajo, los más inteligentes.

Llama 3.3 70BECI 127

Ver la guía de 48 GB

Las mejores elecciones para 32 GB

Todos los modelos puntuados que caben en 32 GB

22 más que caben pero aún no tienen puntuación independiente

Lo que añaden 48 GB

Dispositivos con 32 GB