Aller au contenu

RTX 3090 vs RTX 3090 Ti pour l’IA locale

RTX 3090 fait bien tourner 35 des 74 modèles ouverts et RTX 3090 Ti en fait tourner 35. Voici chaque modèle sur les deux, avec la note et la vitesse obtenues.

Fait bien tourner plus de modèles (note B ou mieux)

À peu près égal

RTX 3090: 35 · RTX 3090 Ti: 35

Plus rapide sur les modèles que les deux font tourner

RTX 3090 Ti · ×1,1

Rapport de vitesse médian sur 35 modèles que les deux chargent entièrement en mémoire.

Les caractéristiques qui comptent

RTX 3090 RTX 3090 Ti
Mémoire comparée24 GB24 GB
Bande passante mémoire936.2 GB/s1008.3 GB/s
Type de mémoireVRAM dédiéeVRAM dédiée
BackendCUDACUDA
Sortie20202022

Chaque modèle sur les deux

Note et vitesse de sortie en Q4_K_M avec un contexte de 8K ; le vert indique le meilleur des deux.

ModèleECIRTX 3090RTX 3090 Ti
moonshotKimi K3157F—F—
deepseekDeepSeek V4 Pro 0813155F—F—
deepseekDeepSeek V4.1 Flash155F—F—
deepseekDeepSeek V4 Flash 0731154F—F—
zaiGLM 5.3 Flash152F—F—
zaiGLM 5.2152F—F—
moonshotKimi K2.6151F—F—
tInkling Small150F—F—
moonshotKimi K2.7 Code150F—F—
zaiGLM 5.1150F—F—
qwenQwen3.8 27B149A~35 t/sA~37 t/s
deepseekDeepSeek V4 Pro149F—F—
tInkling149F—F—
moonshotKimi K2.5148F—F—
minimaxMiniMax M3147F—F—
minimaxMiniMax M2.5147F—F—
qwenQwen3.5 397B A17B147F—F—
qwenQwen3.6 27B147A~36 t/sA~39 t/s
deepseekDeepSeek V3.2146F—F—
nvidiaNemotron 3 Ultra 550B A55B146F—F—
deepseekDeepSeek V4 Flash146F—F—
moonshotKimi K2 Thinking146F—F—
minimaxMiniMax M2.7146F—F—
zaiGLM 5146F—F—
deepseekDeepSeek V3.2 Exp145F—F—
qwenQwen3.6 35B A3B144B~316 t/sB~340 t/s
qwenQwen3 235B A22B Thinking 2507144F—F—
zaiGLM 4.7144F—F—
googleGemma 4 31B143B~31 t/sB~34 t/s
qwenQwen3.5 35B A3B143B~319 t/sB~344 t/s
googleGemma 4 26B A4B142S~219 t/sS~236 t/s
mistralMistral Medium 3.5 128B141F—F—
moonshotKimi K2140F—F—
openaigpt-oss 120b140F—F—
deepseekDeepSeek V3.1140F—F—
qwenQwen3 30B A3B Thinking 2507140S~255 t/sS~274 t/s
qwenQwen3.5 9B139S~105 t/sS~114 t/s
qwenQwen3 235B A22B 2507139F—F—
openaigpt-oss 20b138S~291 t/sS~314 t/s
qwenQwen3 30B A3B 2507137S~255 t/sS~274 t/s
mistralMagistral Small 2506133S~41 t/sS~44 t/s
mistralMistral Small 3.2 24B132S~41 t/sS~44 t/s
mistralMagistral Small 2509131S~41 t/sS~44 t/s
microsoftPhi-4 14B130S~63 t/sS~68 t/s
metaLlama 4 Scout 17B 16E130F—F—
metaLlama 3.3 70B127D~2 t/sD~2 t/s
metaLlama 3.1 8B117S~112 t/sS~121 t/s
cohereCommand A+—F—F—
qwenQwen3.8 Flash Next—F—F—
qwenQwen3.5 122B A10B—F—F—
mistralMistral Small 4 119B—F—F—
qwenQwen3 Coder Next—F—F—
moonshotKimi Linear 48B A3B—C~105 t/sC~107 t/s
ai2Olmo 3.1 32B Think—B~30 t/sB~32 t/s
nvidiaNemotron 3.5 Lightning 30B A3B—C~167 t/sC~175 t/s
zaiGLM 4.7 Flash—S~310 t/sS~333 t/s
cohereNorth Mini Code 1.0—S~272 t/sS~293 t/s
ibmGranite 4.2 30B—B~32 t/sB~35 t/s
mistralDevstral Small 2 24B—S~41 t/sS~44 t/s
mistralMinistral 3 14B—S~69 t/sS~74 t/s
googleGemma 4 12B—S~82 t/sS~88 t/s
mistralMinistral 3 8B—S~106 t/sS~115 t/s
ibmGranite 4.2 8B—S~99 t/sS~106 t/s
googleGemma 4 E4B—S~121 t/sS~130 t/s
ai2Olmo 3 7B—S~93 t/sS~100 t/s
googleGemma 4 E2B—S~195 t/sS~210 t/s
qwenQwen3.5 4B—S~213 t/sS~230 t/s
mistralMinistral 3 3B—S~237 t/sS~256 t/s
ibmGranite 4.2 3B—S~231 t/sS~249 t/s
metaLlama 3.2 3B—S~246 t/sS~265 t/s
huggingfaceSmolLM3 3B—S~277 t/sS~298 t/s
liquidLFM2.5 2.6B—S~350 t/sS~377 t/s
qwenQwen3.5 2B—S~461 t/sS~496 t/s
qwenQwen3.5 0.8B—S~1 052 t/sS~1 133 t/s

Estimations à partir de caractéristiques et de mesures publiées, calibrées par backend. Vos pilotes, réglages et logiciel changent les chiffres réels.

Changez mémoire, contexte ou quantificationOuvrez cette comparaison dans l’outil interactif.