M3 Max (30-core GPU) vs RTX 4060 Ti 16GB für lokale KI

M3 Max (30-core GPU) führt 36 von 74 offenen Modellen gut aus, RTX 4060 Ti 16GB schafft 23. Hier ist jedes Modell auf beiden, mit Note und Tempo.

Führt mehr Modelle gut aus (Note B oder besser)

M3 Max (30-core GPU)

M3 Max (30-core GPU): 36 · RTX 4060 Ti 16GB: 23

Schneller bei Modellen, die beide ausführen

M3 Max (30-core GPU) · ×1,2

Medianes Tempoverhältnis über 23 Modelle, die beide vollständig im Speicher laden.

Das intelligenteste Modell, das es gut ausführt

M3 Max (30-core GPU)Qwen3.8 27B

RTX 4060 Ti 16GBQwen3.5 9B

Die wichtigen Daten

	M3 Max (30-core GPU)	RTX 4060 Ti 16GB
Verglichener Speicher	36 GB (Basiskonfiguration)	16 GB
Speicherbandbreite	300 GB/s	288 GB/s
Speichertyp	Unified (mit dem System geteilt)	Eigener VRAM
Backend	Metal	CUDA
Erschienen	2023	2023

Jedes Modell auf beiden

Note und Ausgabetempo bei Q4_K_M mit 8K Kontext; Grün markiert das bessere der beiden.

Modell	ECI	M3 Max (30-core GPU)	RTX 4060 Ti 16GB
Kimi K3	157	F—	F—
DeepSeek V4 Pro 0813	155	F—	F—
DeepSeek V4.1 Flash	155	F—	F—
DeepSeek V4 Flash 0731	154	F—	F—
GLM 5.3 Flash	152	F—	F—
GLM 5.2	152	F—	F—
Kimi K2.6	151	F—	F—
tInkling Small	150	F—	F—
Kimi K2.7 Code	150	F—	F—
GLM 5.1	150	F—	F—
Qwen3.8 27B	149	B~15 t/s	C~8 t/s
DeepSeek V4 Pro	149	F—	F—
tInkling	149	F—	F—
Kimi K2.5	148	F—	F—
MiniMax M3	147	F—	F—
MiniMax M2.5	147	F—	F—
Qwen3.5 397B A17B	147	F—	F—
Qwen3.6 27B	147	B~15 t/s	C~9 t/s
DeepSeek V3.2	146	F—	F—
Nemotron 3 Ultra 550B A55B	146	F—	F—
DeepSeek V4 Flash	146	F—	F—
Kimi K2 Thinking	146	F—	F—
MiniMax M2.7	146	F—	F—
GLM 5	146	F—	F—
DeepSeek V3.2 Exp	145	F—	F—
Qwen3.6 35B A3B	144	S~81 t/s	C~54 t/s
Qwen3 235B A22B Thinking 2507	144	F—	F—
GLM 4.7	144	F—	F—
Gemma 4 31B	143	B~13 t/s	C~6 t/s
Qwen3.5 35B A3B	143	S~82 t/s	C~55 t/s
Gemma 4 26B A4B	142	S~65 t/s	C~54 t/s
Mistral Medium 3.5 128B	141	F—	F—
Kimi K2	140	F—	F—
gpt-oss 120b	140	F—	F—
DeepSeek V3.1	140	F—	F—
Qwen3 30B A3B Thinking 2507	140	S~72 t/s	C~52 t/s
Qwen3.5 9B	139	A~38 t/s	A~32 t/s
Qwen3 235B A22B 2507	139	F—	F—
gpt-oss 20b	138	S~78 t/s	S~90 t/s
Qwen3 30B A3B 2507	137	S~72 t/s	C~52 t/s
Magistral Small 2506	133	B~17 t/s	B~13 t/s
Mistral Small 3.2 24B	132	B~17 t/s	B~13 t/s
Magistral Small 2509	131	B~17 t/s	B~13 t/s
Phi-4 14B	130	A~25 t/s	B~19 t/s
Llama 4 Scout 17B 16E	130	F—	F—
Llama 3.3 70B	127	F—	F—
Llama 3.1 8B	117	S~40 t/s	A~35 t/s
Command A+	—	F—	F—
Qwen3.8 Flash Next	—	F—	F—
Qwen3.5 122B A10B	—	F—	F—
Mistral Small 4 119B	—	F—	F—
Qwen3 Coder Next	—	F—	F—
Kimi Linear 48B A3B	—	F—	C~44 t/s
Olmo 3.1 32B Think	—	B~13 t/s	C~6 t/s
Nemotron 3.5 Lightning 30B A3B	—	B~71 t/s	C~38 t/s
GLM 4.7 Flash	—	S~80 t/s	C~67 t/s
North Mini Code 1.0	—	S~74 t/s	C~56 t/s
Granite 4.2 30B	—	B~14 t/s	C~6 t/s
Devstral Small 2 24B	—	B~17 t/s	B~13 t/s
Ministral 3 14B	—	A~27 t/s	A~21 t/s
Gemma 4 12B	—	A~31 t/s	A~25 t/s
Ministral 3 8B	—	A~38 t/s	A~33 t/s
Granite 4.2 8B	—	A~36 t/s	A~30 t/s
Gemma 4 E4B	—	S~43 t/s	A~37 t/s
Olmo 3 7B	—	A~34 t/s	A~29 t/s
Gemma 4 E2B	—	S~60 t/s	S~60 t/s
Qwen3.5 4B	—	S~64 t/s	S~66 t/s
Ministral 3 3B	—	S~69 t/s	S~73 t/s
Granite 4.2 3B	—	S~67 t/s	S~71 t/s
Llama 3.2 3B	—	S~70 t/s	S~76 t/s
SmolLM3 3B	—	S~75 t/s	S~85 t/s
LFM2.5 2.6B	—	S~86 t/s	S~108 t/s
Qwen3.5 2B	—	S~99 t/s	S~142 t/s
Qwen3.5 0.8B	—	S~134 t/s	S~324 t/s