Aller au contenu

Les meilleurs modèles d'IA en local pour 8 Go de VRAM

15 modèles ouverts tiennent dans 8 Go de mémoire graphique en Q4_K_M avec un contexte de 8K ; 2 ont un score d’intelligence indépendant. Les voici classés, avec le contexte le plus long que chacun accepte.

Les meilleurs choix pour 8 Go

Vitesses sur RTX 5060 Ti 8GB, la carte NVIDIA la plus récente avec cette mémoire. Le contexte max. est le plus long qui se charge encore sans déborder dans la RAM.

Tous les modèles notés qui tiennent dans 8 Go

#ModèleECIMémoireContexte max.
1QwenQwen3.5 9B139,55,8 GB32K
2MetaLlama 3.1 8B116,65,9 GB16K

13 autres qui tiennent mais n’ont pas encore de score indépendant

Les plus gros d’abord, avec le contexte le plus long que chacun accepte.

Mémoire en Q4_K_M avec un contexte de 8K, tampons du logiciel compris. Une quantification plus petite tient dans moins ; un contexte plus long demande plus.

Ce qu’apportent 12 Go

1 modèles notés de plus tiennent dans 12 Go ; les plus intelligents ci-dessous.

Voir le guide 12 Go

Appareils avec 8 Go