Will It Run AI

Mradermacher

Codestral 21B Pruned i1

Dados limitados disponíveis — algumas especificações podem estar incompletas ou estimadas.
0K tokensContextoUnknownLicença3 InicialQualidade

Codestral 21B Pruned i1 (21B parameters) requires approximately 17.1 GB of VRAM with Q4_K_M quantization. For the best balance of quality and speed, we recommend hardware with at least 20 GB of VRAM.

Quick specs

Parameters21B
Architecturedense
Context0K tokens
Modalitytext
Min RAM8.2 GB
Rec. RAM12.8 GB (Q4_K_M)
LicenseUnknown
FamilyLlama
Code RAG

Modelos relacionados

Seu hardware

Detectando...

Escolhas rápidas

Melhor hardware

Melhores opções para Codestral 21B Pruned i1

Rodar este modelo

Opções de quantização

Estimativas de VRAM por nível de quantização

No hardware detected — fit column shows raw VRAM estimates

QuantBitsVRAMQualityFit
Q2_K
2
8.2 GB
Low
Q3_K_S
3
10.3 GB
Low
NVFP4
4
11.8 GB
Medium
Q4_K_M
4
12.8 GB
Medium
Q5_K_M
5
15.1 GB
High
Q6_K
6
17.2 GB
High
Q8_0
8
22.5 GB
Very High
F16
16
43.1 GB
Maximum

Compatibilidade de hardware

Estimativas de compatibilidade para todo o hardware

Abrir calculadora

Computing compatibility...

Detalhamento de memória

Reference: RTX 2060 6GB

Weights12.8 GB
KV Cache2.5 GB
Runtime1.2 GB
Headroom0.6 GB

Perguntas frequentes

FAQ — Codestral 21B Pruned i1

Veja também