Saltar al contenido

Qwen3.6 27B

Visión

QwenQwen · 27,8B · Denso

Qwen3.6 27B es un modelo de 27,8B de Qwen con un contexto de 256K tokens. En Q4_K_M con 8K de contexto necesita unos 16,5 GB; con 22 GB tienes margen para conversaciones largas.

Hugging Face GGUF

Opciones de cuantización

Cuant.MemoriaEn tu hardware
Q2_K—…
Q3_K_M—…
Q4_K_M—…
Q5_K_M—…
Q6_K—…
Q8_0—…
F16—…

Memoria según el contexto

En Q4_K_M. La caché del contexto crece con cada token que el modelo recuerda.

ContextoCaché de contextoTotal
4K0,3 GB16,2 GB
8K0,5 GB16,5 GB
32K2 GB18 GB
128K8 GB24 GB
256K16 GB32 GB

Comparte una velocidad medida

Ejecuta uno de estos y pega abajo la salida completa (o sólo los tokens por segundo):

llama-bench -m model.gguf
ollama run model --verbose

Se publica de forma anónima y se conserva. No guardamos cuenta ni dirección, sólo un hash que cambia cada día para limitar a diez envíos diarios.

Siguiente paso

Alternativas más pequeñas

Modelos que necesitan menos memoria que Qwen3.6 27B y puntúan casi igual o mejor.

Ningún modelo puntuado es a la vez más pequeño y casi tan inteligente como Qwen3.6 27B.

¿Puedo ejecutar Qwen3.6 27B en local?

¿Puedo ejecutar Qwen3.6 27B en local?

Sí, si tu GPU o tu Mac tiene unos 16,5 GB libres para él en Q4_K_M. Abre esta página en ese ordenador para ver la nota de tu hardware exacto y arráncalo con llama.cpp, Ollama o LM Studio.

¿Cuánta memoria necesita Qwen3.6 27B?

Unos 16,5 GB en Q4_K_M con 8K de contexto y 27,4 GB en Q8_0. Las cuantizaciones más bajas caben en tarjetas más pequeñas con algo de pérdida de calidad; los contextos largos suman al total.