Les meilleurs modèles d'IA en local pour 16 Go de VRAM

23 modèles ouverts tiennent dans 16 Go de mémoire graphique en Q4_K_M avec un contexte de 8K ; 7 ont un score d’intelligence indépendant. Les voici classés, avec le contexte le plus long que chacun accepte.

Les meilleurs choix pour 16 Go

#1 · ECI 139,5

Qwen3.5 9B

Mémoire: 5,8 GB
Contexte max.: 256K
Vitesse: ~108 t/s

#2 · ECI 137,8

gpt-oss 20b

Mémoire: 11,3 GB
Contexte max.: 128K
Vitesse: ~299 t/s

#3 · ECI 133,2

Magistral Small 2506

Mémoire: 14,9 GB
Contexte max.: 8K
Vitesse: ~42 t/s

Vitesses sur RTX 5080, la carte NVIDIA la plus récente avec cette mémoire. Le contexte max. est le plus long qui se charge encore sans déborder dans la RAM.

Tous les modèles notés qui tiennent dans 16 Go

#	Modèle	ECI	Mémoire	Contexte max.	Vitesse
1	Qwen3.5 9B	139,5	5,8 GB	256K	~108 t/s
2	gpt-oss 20b	137,8	11,3 GB	128K	~299 t/s
3	Magistral Small 2506	133,2	14,9 GB	8K	~42 t/s
4	Mistral Small 3.2 24B	131,7	14,9 GB	8K	~42 t/s
5	Magistral Small 2509	131,4	14,9 GB	8K	~42 t/s
6	Phi-4 14B	130,4	10,1 GB	16K	~65 t/s
7	Llama 3.1 8B	116,6	5,9 GB	64K	~115 t/s

16 autres qui tiennent mais n’ont pas encore de score indépendant

Les plus gros d’abord, avec le contexte le plus long que chacun accepte.

Mémoire en Q4_K_M avec un contexte de 8K, tampons du logiciel compris. Une quantification plus petite tient dans moins ; un contexte plus long demande plus.

Ce qu’apportent 24 Go

8 modèles notés de plus tiennent dans 24 Go ; les plus intelligents ci-dessous.

Voir le guide 24 Go

Les meilleurs choix pour 16 Go

Tous les modèles notés qui tiennent dans 16 Go

16 autres qui tiennent mais n’ont pas encore de score indépendant

Ce qu’apportent 24 Go

Appareils avec 16 Go