Los mejores modelos de IA en local para 48 GB de VRAM

39 modelos abiertos caben en 48 GB de memoria gráfica en Q4_K_M con contexto de 8K; 16 tienen puntuación de inteligencia independiente. Aquí están clasificados, con el contexto más largo que admite cada uno.

Las mejores elecciones para 48 GB

#1 · ECI 149,4

Qwen3.8 27B

Memoria: 17 GB
Contexto máx.: 256K
Velocidad: ~28 t/s

#2 · ECI 146,5

Qwen3.6 27B

Memoria: 16,5 GB
Contexto máx.: 256K
Velocidad: ~29 t/s

#3 · ECI 143,9

Qwen3.6 35B A3B

Memoria: 21,2 GB
Contexto máx.: 256K
Velocidad: ~259 t/s

Velocidades en RTX A6000, la tarjeta NVIDIA más reciente con esta memoria. El contexto máximo es el más largo que aún carga sin desbordar a la RAM.

Todos los modelos puntuados que caben en 48 GB

#	Modelo	ECI	Memoria	Contexto máx.	Velocidad
1	Qwen3.8 27B	149,4	17 GB	256K	~28 t/s
2	Qwen3.6 27B	146,5	16,5 GB	256K	~29 t/s
3	Qwen3.6 35B A3B	143,9	21,2 GB	256K	~259 t/s
4	Gemma 4 31B	142,7	18,8 GB	256K	~26 t/s
5	Qwen3.5 35B A3B	142,5	21 GB	256K	~262 t/s
6	Gemma 4 26B A4B	141,9	16,5 GB	256K	~180 t/s
7	Qwen3 30B A3B Thinking 2507	139,6	18,3 GB	256K	~209 t/s
8	Qwen3.5 9B	139,5	5,8 GB	256K	~87 t/s
9	gpt-oss 20b	137,8	11,3 GB	128K	~239 t/s
10	Qwen3 30B A3B 2507	137,4	18,3 GB	256K	~209 t/s
11	Magistral Small 2506	133,2	14,9 GB	32K	~34 t/s
12	Mistral Small 3.2 24B	131,7	14,9 GB	128K	~34 t/s
13	Magistral Small 2509	131,4	14,9 GB	128K	~34 t/s
14	Phi-4 14B	130,4	10,1 GB	16K	~52 t/s
15	Llama 3.3 70B	127,3	42,4 GB	16K	~11 t/s
16	Llama 3.1 8B	116,6	5,9 GB	128K	~92 t/s

23 más que caben pero aún no tienen puntuación independiente

Los más grandes primero, con el contexto más largo que admite cada uno.

Memoria en Q4_K_M con contexto de 8K, incluidos los búferes del propio programa. Una cuantización menor cabe en menos; un contexto más largo necesita más.

Las mejores elecciones para 48 GB

Todos los modelos puntuados que caben en 48 GB

23 más que caben pero aún no tienen puntuación independiente

Dispositivos con 48 GB