40 GB VRAM · 1555 GB/s · CUDA
Modelos de IA para A100 40GB (PCIe)
Estos son los mejores modelos abiertos para cada tarea en A100 40GB (PCIe), con la nota de todos los modelos más abajo.
Tu hardware
…
- Memoria
- GB
- Ancho de banda
- GB/s
- Contexto
Los más inteligentes en tu …
Inteligencia (ECI) de los modelos más inteligentes que cargan · el color indica cómo funcionan
Velocidad esperada
Tokens por segundo en tu … de los modelos más inteligentes que funcionan bien
Modelos disponibles con más memoria
Modelos abiertos que funcionan bien (nota B o superior) con cada memoria
Puntuaciones de 8 oct 2026 · 0 modelos nuevos en los dos últimos meses
Todos los modelos en A100 40GB (PCIe)
Q4_K_M, 8K de contexto, 40 GB de memoria. Ajusta tu configuración arriba para cifras exactas.
| Nota | Modelo | Memoria | Velocidad |
|---|---|---|---|
| SExcelente | 28,4 GB | ~545 tok/s | |
| SExcelente | 21,2 GB | ~524 tok/s | |
| SExcelente | 21 GB | ~530 tok/s | |
| SExcelente | 19,7 GB | ~50 tok/s | |
| SExcelente | 24,1 GB | ~417 tok/s | |
| SExcelente | 18,8 GB | ~52 tok/s | |
| SExcelente | 17,8 GB | ~514 tok/s | |
| SExcelente | 18,3 GB | ~423 tok/s | |
| SExcelente | 18,3 GB | ~423 tok/s | |
| SExcelente | 18,2 GB | ~452 tok/s | |
| SExcelente | 19,1 GB | ~53 tok/s | |
| SExcelente | 17 GB | ~58 tok/s | |
| SExcelente | 16,5 GB | ~60 tok/s | |
| SExcelente | 16,5 GB | ~364 tok/s | |
| SExcelente | 14,9 GB | ~68 tok/s | |
| SExcelente | 14,9 GB | ~68 tok/s | |
| SExcelente | 14,9 GB | ~68 tok/s | |
| SExcelente | 14,9 GB | ~68 tok/s | |
| SExcelente | 11,3 GB | ~484 tok/s | |
| SExcelente | 10,1 GB | ~105 tok/s | |
| SExcelente | 9,2 GB | ~114 tok/s | |
| SExcelente | 7,4 GB | ~135 tok/s | |
| SExcelente | 5,8 GB | ~175 tok/s | |
| SExcelente | 6,2 GB | ~177 tok/s | |
| SExcelente | 6,7 GB | ~164 tok/s | |
| SExcelente | 5,9 GB | ~187 tok/s | |
| SExcelente | 5,1 GB | ~201 tok/s | |
| SExcelente | 7 GB | ~154 tok/s | |
| SExcelente | 3,3 GB | ~323 tok/s | |
| SExcelente | 3,1 GB | ~354 tok/s | |
| SExcelente | 3,1 GB | ~394 tok/s | |
| SExcelente | 3,1 GB | ~384 tok/s | |
| SExcelente | 3,1 GB | ~409 tok/s | |
| SExcelente | 2,6 GB | ~459 tok/s | |
| SExcelente | 2 GB | ~582 tok/s | |
| SExcelente | 1,6 GB | ~765 tok/s | |
| SExcelente | 0,9 GB | ~1748 tok/s | |
| CLento | 59 GB | ~47 tok/s | |
| CLento | 45,7 GB | ~138 tok/s | |
| CLento | 42,4 GB | ~9 tok/s |
34 modelos no caben en A100 40GB (PCIe)
| Nota | Modelo | Memoria | Velocidad |
|---|---|---|---|
| FNo cabe | 1584,5 GB | — | |
| FNo cabe | 886,8 GB | — | |
| FNo cabe | 886,8 GB | — | |
| FNo cabe | 578,8 GB | — | |
| FNo cabe | 578,8 GB | — | |
| FNo cabe | 579,4 GB | — | |
| FNo cabe | 579,4 GB | — | |
| FNo cabe | 579 GB | — | |
| FNo cabe | tInkling 952,4B | 534 GB | — |
| FNo cabe | 435,8 GB | — | |
| FNo cabe | 429,2 GB | — | |
| FNo cabe | 425,7 GB | — | |
| FNo cabe | 424,5 GB | — | |
| FNo cabe | 391,5 GB | — | |
| FNo cabe | 378,5 GB | — | |
| FNo cabe | 378,4 GB | — | |
| FNo cabe | 321,8 GB | — | |
| FNo cabe | 244,6 GB | — | |
| FNo cabe | 227,9 GB | — | |
| FNo cabe | 204,8 GB | — | |
| FNo cabe | 176,1 GB | — | |
| FNo cabe | 161 GB | — | |
| FNo cabe | 166,7 GB | — | |
| FNo cabe | tInkling Small 266B | 149 GB | — |
| FNo cabe | 134,2 GB | — | |
| FNo cabe | 134,2 GB | — | |
| FNo cabe | 131,1 GB | — | |
| FNo cabe | 131,5 GB | — | |
| FNo cabe | 126,7 GB | — | |
| FNo cabe | 111,9 GB | — | |
| FNo cabe | 72,8 GB | — | |
| FNo cabe | 71,8 GB | — | |
| FNo cabe | 68,1 GB | — | |
| FNo cabe | 62,7 GB | — |