Meta
Llama 3.2 11B Vision
Legacy
243.3KDescargas1.6KMe gustaSep 2024Publicado16K tokensContextoCommunityLicencia36 BásicoCalidad
Llama 3.2 11B Vision (11B parameters) requires approximately 10.5 GB of VRAM with Q4_K_M quantization. For the best balance of quality and speed, we recommend hardware with at least 13 GB of VRAM.
Comenzar
— copia y pega para ejecutar en localCopy-paste commands to run Llama 3.2 11B Vision on your machine.
Run
ollama run llama3.2-vision:11bQuick specs
Parameters11B
Architecturevision
Context16K tokens
Modalitytext+vision
Min RAM4.3 GB
Rec. RAM6.7 GB (Q4_K_M)
LicenseCommunity
FamilyLlama Vision
✓ Vision✓ Chat
About this model
Selecciones rápidas
Mejor hardware
Mejores opciones para Llama 3.2 11B Vision
Ejecutar este modelo
Opciones de cuantización
Estimaciones de VRAM por nivel de cuantización
No hardware detected — fit column shows raw VRAM estimates
| Quant | Bits | VRAM | Quality | Fit |
|---|---|---|---|---|
Q2_K | 2 | 4.3 GB | Low | — |
Q3_K_S | 3 | 5.4 GB | Low | — |
NVFP4 | 4 | 6.2 GB | Medium | — |
Q4_K_M | 4 | 6.7 GB | Medium | — |
Q5_K_M | 5 | 7.9 GB | High | — |
Q6_K | 6 | 9.0 GB | High | — |
Q8_0 | 8 | 11.8 GB | Very High | — |
F16 | 16 | 22.5 GB | Maximum | — |
Quality benchmarks
Llama 3.2 11B Vision benchmark scores
Reasoning
MMLU-Pro—
GPQA Diamond32.8%
MATH-50051.9%
ARC Challenge—
Source: official · 2024-09-25
Compatibilidad de hardware
Estimaciones de encaje en todo el hardware
Computing compatibility...
Desglose de memoria
Reference: RTX 2060 6GB
Weights6.7 GB
KV Cache2.0 GB
Runtime1.2 GB
Headroom0.6 GB
Preguntas frecuentes
FAQ — Llama 3.2 11B Vision
Ver también