Saltar al contenido

MiniMax M3

MoEVisión

MiniMaxMiniMax · 427B (23B activos) · Mezcla de expertos

MiniMax M3 es un modelo de 427B de MiniMax con un contexto de 1M tokens. En Q4_K_M con 8K de contexto necesita unos 244,6 GB; con 307 GB tienes margen para conversaciones largas.

Hugging Face GGUF

Mezcla de expertos

Parámetros: 427B · Activos: 23B

Los 427B parámetros se cargan en memoria, pero sólo 23B trabajan en cada token, así que va a la velocidad de un modelo mucho más pequeño.

Opciones de cuantización

Cuant.MemoriaEn tu hardware
Q2_K—…
Q3_K_M—…
Q4_K_M—…
Q5_K_M—…
Q6_K—…
Q8_0—…
F16—…

Memoria según el contexto

En Q4_K_M. La caché del contexto crece con cada token que el modelo recuerda.

ContextoCaché de contextoTotal
4K0,5 GB244,1 GB
8K0,9 GB244,6 GB
32K3,8 GB247,4 GB
128K15 GB258,6 GB
256K30 GB273,6 GB

Comparte una velocidad medida

Ejecuta uno de estos y pega abajo la salida completa (o sólo los tokens por segundo):

llama-bench -m model.gguf
ollama run model --verbose

Se publica de forma anónima y se conserva. No guardamos cuenta ni dirección, sólo un hash que cambia cada día para limitar a diez envíos diarios.

Siguiente paso

El hardware mínimo donde va bien

Equipos de escritorio con la menor memoria que dan a MiniMax M3 nota A o S en Q4_K_M.

¿Puedo ejecutar MiniMax M3 en local?

¿Puedo ejecutar MiniMax M3 en local?

Sí, si tu GPU o tu Mac tiene unos 244,6 GB libres para él en Q4_K_M. Abre esta página en ese ordenador para ver la nota de tu hardware exacto y arráncalo con llama.cpp, Ollama o LM Studio.

¿Cuánta memoria necesita MiniMax M3?

Unos 244,6 GB en Q4_K_M con 8K de contexto y 422,9 GB en Q8_0. Las cuantizaciones más bajas caben en tarjetas más pequeñas con algo de pérdida de calidad; los contextos largos suman al total.