Google

Gemma 4 12B

Name: Gemma 4 12B
Rating: 82 (123 reviews)
Author: Google

Frontera

HuggingFace

2.9MDescargas1.3KMe gustaMay 2026Publicado262K tokensContextoApache 2.0Licencia74 FuerteCalidad

Gemma 4 12B (12B parameters) requires approximately 15.0 GB of VRAM with Q4_K_M quantization. For the best balance of quality and speed, we recommend hardware with at least 18 GB of VRAM.

Comenzar

— copia y pega para ejecutar en local

Copy-paste commands to run Gemma 4 12B on your machine.

Run

lms load gemma-4-12B-it && lms server start

Quick specs

Parameters12B

Architecturedense

Context262K tokens

Modalitytext

Min RAM4.7 GB

Rec. RAM7.3 GB (Q4_K_M)

LicenseApache 2.0

FamilyGemma

✓ Vision✓ Code✓ Chat✓ Reasoning

About this model

Gemma 4 12B is Google's dense multimodal (text, image, and audio) model in the Gemma 4 family, offering strong reasoning and code generation with a 256K context window. Balances quality against practical single-GPU resource requirements.

Modelos relacionados

Selecciones rápidas

Mejor económicoA

Intel Arc Pro B60 24GB~$599 — 27 tok/s

Mejor en generalS

RTX 3090 24GB~$1,499 — 94 tok/s

Mejor hardware

Mejores opciones para Gemma 4 12B

Ejecutar este modelo

Gemma 4 12B on RTX 3090 24GB Gemma 4 12B on RTX 3090 Ti 24GB Gemma 4 12B on RTX 4090 24GB

Opciones de cuantización

Estimaciones de VRAM por nivel de cuantización

No hardware detected — fit column shows raw VRAM estimates

Quant	Bits	VRAM	Quality	Fit
Q2_K	2	4.7 GB	Low	—
Q3_K_S	3	5.9 GB	Low	—
NVFP4	4	6.7 GB	Medium	—
Q4_K_M	4	7.3 GB	Medium	—
Q5_K_M	5	8.6 GB	High	—
Q6_K	6	9.8 GB	High	—
Q8_0	8	12.8 GB	Very High	—
F16	16	24.6 GB	Maximum	—

Compatibilidad de hardware

Estimaciones de encaje en todo el hardware

Abrir calculadora

Computing compatibility...

Desglose de memoria

Reference: RTX 2060 6GB

Weights7.3 GB

KV Cache5.9 GB

Runtime1.2 GB

Headroom0.6 GB

Preguntas frecuentes

FAQ — Gemma 4 12B

Ver también

Guía de cuantización Metodología de puntuación Abrir calculadora