Les meilleurs modèles d'IA en local pour 12 Go de VRAM

18 modèles ouverts tiennent dans 12 Go de mémoire graphique en Q4_K_M avec un contexte de 8K ; 3 ont un score d’intelligence indépendant. Les voici classés, avec le contexte le plus long que chacun accepte.

Les meilleurs choix pour 12 Go

#1 · ECI 139,5

Qwen3.5 9B

Mémoire: 5,8 GB
Contexte max.: 128K
Vitesse: ~76 t/s

#2 · ECI 130,4

Phi-4 14B

Mémoire: 10,1 GB
Contexte max.: 8K
Vitesse: ~45 t/s

#3 · ECI 116,6

Llama 3.1 8B

Mémoire: 5,9 GB
Contexte max.: 32K
Vitesse: ~81 t/s

Vitesses sur RTX 5070, la carte NVIDIA la plus récente avec cette mémoire. Le contexte max. est le plus long qui se charge encore sans déborder dans la RAM.

Tous les modèles notés qui tiennent dans 12 Go

#	Modèle	ECI	Mémoire	Contexte max.	Vitesse
1	Qwen3.5 9B	139,5	5,8 GB	128K	~76 t/s
2	Phi-4 14B	130,4	10,1 GB	8K	~45 t/s
3	Llama 3.1 8B	116,6	5,9 GB	32K	~81 t/s

15 autres qui tiennent mais n’ont pas encore de score indépendant

Les plus gros d’abord, avec le contexte le plus long que chacun accepte.

Mémoire en Q4_K_M avec un contexte de 8K, tampons du logiciel compris. Une quantification plus petite tient dans moins ; un contexte plus long demande plus.