M2 Ultra vs RTX 4090 pour l’IA locale

M2 Ultra fait bien tourner 39 des 74 modèles ouverts et RTX 4090 en fait tourner 35. Voici chaque modèle sur les deux, avec la note et la vitesse obtenues.

Fait bien tourner plus de modèles (note B ou mieux)

M2 Ultra

M2 Ultra: 39 · RTX 4090: 35

Plus rapide sur les modèles que les deux font tourner

RTX 4090 · ×1,6

Rapport de vitesse médian sur 35 modèles que les deux chargent entièrement en mémoire.

Le modèle le plus intelligent qu’il fait bien tourner

M2 UltraQwen3.8 27B

RTX 4090Qwen3.8 27B

Les caractéristiques qui comptent

	M2 Ultra	RTX 4090
Mémoire comparée	64 GB (configuration de base)	24 GB
Bande passante mémoire	800 GB/s	1008 GB/s
Type de mémoire	Unifiée (partagée avec le système)	VRAM dédiée
Backend	Metal	CUDA
Sortie	2023	2022

Chaque modèle sur les deux

Note et vitesse de sortie en Q4_K_M avec un contexte de 8K ; le vert indique le meilleur des deux.

Modèle	ECI	M2 Ultra	RTX 4090
Kimi K3	157	F—	F—
DeepSeek V4 Pro 0813	155	F—	F—
DeepSeek V4.1 Flash	155	F—	F—
DeepSeek V4 Flash 0731	154	F—	F—
GLM 5.3 Flash	152	F—	F—
GLM 5.2	152	F—	F—
Kimi K2.6	151	F—	F—
tInkling Small	150	F—	F—
Kimi K2.7 Code	150	F—	F—
GLM 5.1	150	F—	F—
Qwen3.8 27B	149	A~34 t/s	A~37 t/s
DeepSeek V4 Pro	149	F—	F—
tInkling	149	F—	F—
Kimi K2.5	148	F—	F—
MiniMax M3	147	F—	F—
MiniMax M2.5	147	F—	F—
Qwen3.5 397B A17B	147	F—	F—
Qwen3.6 27B	147	A~35 t/s	A~39 t/s
DeepSeek V3.2	146	F—	F—
Nemotron 3 Ultra 550B A55B	146	F—	F—
DeepSeek V4 Flash	146	F—	F—
Kimi K2 Thinking	146	F—	F—
MiniMax M2.7	146	F—	F—
GLM 5	146	F—	F—
DeepSeek V3.2 Exp	145	F—	F—
Qwen3.6 35B A3B	144	S~126 t/s	B~340 t/s
Qwen3 235B A22B Thinking 2507	144	F—	F—
GLM 4.7	144	F—	F—
Gemma 4 31B	143	A~32 t/s	B~34 t/s
Qwen3.5 35B A3B	143	S~126 t/s	B~344 t/s
Gemma 4 26B A4B	142	S~110 t/s	S~236 t/s
Mistral Medium 3.5 128B	141	F—	F—
Kimi K2	140	F—	F—
gpt-oss 120b	140	F—	F—
DeepSeek V3.1	140	F—	F—
Qwen3 30B A3B Thinking 2507	140	S~116 t/s	S~274 t/s
Qwen3.5 9B	139	S~76 t/s	S~114 t/s
Qwen3 235B A22B 2507	139	F—	F—
gpt-oss 20b	138	S~122 t/s	S~314 t/s
Qwen3 30B A3B 2507	137	S~116 t/s	S~274 t/s
Magistral Small 2506	133	A~39 t/s	S~44 t/s
Mistral Small 3.2 24B	132	A~39 t/s	S~44 t/s
Magistral Small 2509	131	A~39 t/s	S~44 t/s
Phi-4 14B	130	S~54 t/s	S~68 t/s
Llama 4 Scout 17B 16E	130	F—	F—
Llama 3.3 70B	127	B~16 t/s	D~2 t/s
Llama 3.1 8B	117	S~79 t/s	S~121 t/s
Command A+	—	F—	F—
Qwen3.8 Flash Next	—	F—	F—
Qwen3.5 122B A10B	—	F—	F—
Mistral Small 4 119B	—	F—	F—
Qwen3 Coder Next	—	B~126 t/s	F—
Kimi Linear 48B A3B	—	S~127 t/s	C~107 t/s
Olmo 3.1 32B Think	—	A~30 t/s	B~32 t/s
Nemotron 3.5 Lightning 30B A3B	—	S~116 t/s	C~175 t/s
GLM 4.7 Flash	—	S~125 t/s	S~333 t/s
North Mini Code 1.0	—	S~119 t/s	S~293 t/s
Granite 4.2 30B	—	A~32 t/s	B~35 t/s
Devstral Small 2 24B	—	A~39 t/s	S~44 t/s
Ministral 3 14B	—	S~58 t/s	S~74 t/s
Gemma 4 12B	—	S~65 t/s	S~88 t/s
Ministral 3 8B	—	S~76 t/s	S~114 t/s
Granite 4.2 8B	—	S~73 t/s	S~106 t/s
Gemma 4 E4B	—	S~82 t/s	S~130 t/s
Olmo 3 7B	—	S~70 t/s	S~100 t/s
Gemma 4 E2B	—	S~104 t/s	S~210 t/s
Qwen3.5 4B	—	S~109 t/s	S~230 t/s
Ministral 3 3B	—	S~113 t/s	S~256 t/s
Granite 4.2 3B	—	S~112 t/s	S~249 t/s
Llama 3.2 3B	—	S~115 t/s	S~265 t/s
SmolLM3 3B	—	S~120 t/s	S~298 t/s
LFM2.5 2.6B	—	S~130 t/s	S~377 t/s
Qwen3.5 2B	—	S~140 t/s	S~496 t/s
Qwen3.5 0.8B	—	S~163 t/s	S~1 133 t/s

Estimations à partir de caractéristiques et de mesures publiées, calibrées par backend. Vos pilotes, réglages et logiciel changent les chiffres réels.

Changez mémoire, contexte ou quantificationOuvrez cette comparaison dans l’outil interactif.

Tous les modèles sur M2 Ultra

M2 Ultra vs M1 Ultra M2 Ultra vs M4 Max (40-core GPU)M2 Ultra vs M3 Max (40-core GPU)M2 Ultra vs Radeon RX 7900 XT M2 Ultra vs Radeon RX 7900 XTX M2 Ultra vs M3 Ultra

Tous les modèles sur RTX 4090

RTX 4090 vs M1 Ultra RTX 4090 vs RTX 3090 Ti RTX 4090 vs Radeon RX 7900 XTX RTX 4090 vs Radeon RX 7900 XT RTX 4090 vs M4 Max (32-core GPU)RTX 4090 vs RTX 3090