Los mejores modelos de IA en local para 16 GB de VRAM

23 modelos abiertos caben en 16 GB de memoria gráfica en Q4_K_M con contexto de 8K; 7 tienen puntuación de inteligencia independiente. Aquí están clasificados, con el contexto más largo que admite cada uno.

Las mejores elecciones para 16 GB

#1 · ECI 139,5

Qwen3.5 9B

Memoria: 5,8 GB
Contexto máx.: 256K
Velocidad: ~108 t/s

#2 · ECI 137,8

gpt-oss 20b

Memoria: 11,3 GB
Contexto máx.: 128K
Velocidad: ~299 t/s

#3 · ECI 133,2

Magistral Small 2506

Memoria: 14,9 GB
Contexto máx.: 8K
Velocidad: ~42 t/s

Velocidades en RTX 5080, la tarjeta NVIDIA más reciente con esta memoria. El contexto máximo es el más largo que aún carga sin desbordar a la RAM.

Todos los modelos puntuados que caben en 16 GB

#	Modelo	ECI	Memoria	Contexto máx.	Velocidad
1	Qwen3.5 9B	139,5	5,8 GB	256K	~108 t/s
2	gpt-oss 20b	137,8	11,3 GB	128K	~299 t/s
3	Magistral Small 2506	133,2	14,9 GB	8K	~42 t/s
4	Mistral Small 3.2 24B	131,7	14,9 GB	8K	~42 t/s
5	Magistral Small 2509	131,4	14,9 GB	8K	~42 t/s
6	Phi-4 14B	130,4	10,1 GB	16K	~65 t/s
7	Llama 3.1 8B	116,6	5,9 GB	64K	~115 t/s

16 más que caben pero aún no tienen puntuación independiente

Los más grandes primero, con el contexto más largo que admite cada uno.

Memoria en Q4_K_M con contexto de 8K, incluidos los búferes del propio programa. Una cuantización menor cabe en menos; un contexto más largo necesita más.

Lo que añaden 24 GB

8 modelos puntuados más caben en 24 GB; abajo, los más inteligentes.

Ver la guía de 24 GB

Las mejores elecciones para 16 GB

Todos los modelos puntuados que caben en 16 GB

16 más que caben pero aún no tienen puntuación independiente

Lo que añaden 24 GB

Dispositivos con 16 GB