Will It Run AI

DeepSeekDeepSeek

DeepSeek R1 Distill 32B

Frontier
huggingfaceHuggingFaceollamaOllama
596.8KDownloads1.6KCurtidasJan 2025Publicado33K tokensContextoMITLicença61 BomQualidade

DeepSeek R1 Distill 32B (32B parameters) requires approximately 25.2 GB of VRAM with Q4_K_M quantization. For the best balance of quality and speed, we recommend hardware with at least 29 GB of VRAM.

Comece agora

— copie e cole para rodar localmente

Copy-paste commands to run DeepSeek R1 Distill 32B on your machine.

Run

ollama run deepseek-r1:32b

Quick specs

Parameters32B
Architecturedense
Context33K tokens
Modalitytext
Min RAM12.5 GB
Rec. RAM19.5 GB (Q4_K_M)
LicenseMIT
FamilyDeepSeek
✓ Chat✓ Reasoning

About this model

DeepSeek-R1 é o modelo de raciocínio de primeira geração da DeepSeek, treinado com aprendizado por reforço em grande escala. O DeepSeek-R1-Zero emergiu naturalmente com comportamentos de raciocínio poderosos. A variante Distill 32B oferece capacidades de raciocínio semelhantes em um tamanho mais gerenciável.

  • •We directly apply reinforcement learning (RL) to the base model without relying on supervised fine-tuning (SFT) as a preliminary step. This...
  • •We introduce our pipeline to develop DeepSeek-R1. The pipeline incorporates two RL stages aimed at discovering improved reasoning patterns and...

Modelos relacionados

Seu hardware

Detectando...

Escolhas rápidas

Melhor custo-benefícioA
Mac mini M4 64GB~$1,099 — 9 tok/s
NVIDIA
Melhor no geralA
NVIDIA A100 40GB~$10,000 — 72 tok/s

Melhor hardware

Melhores opções para DeepSeek R1 Distill 32B

NVIDIA
NVIDIA A100 40GBA
40 GB
NVIDIA
RTX PRO 5000 Blackwell 48GBA
48 GB
MacBook Pro M4 Max 64GBA
64 GB
NVIDIA
RTX 5090 32GBA
32 GB
NVIDIA
RTX 6000 Ada 48GBA
48 GB

Rodar este modelo

DeepSeek R1 Distill 32B on NVIDIA A100 40GBDeepSeek R1 Distill 32B on RTX PRO 5000 Blackwell 48GBDeepSeek R1 Distill 32B on MacBook Pro M4 Max 64GB

Opções de quantização

Estimativas de VRAM por nível de quantização

No hardware detected — fit column shows raw VRAM estimates

QuantBitsVRAMQualityFit
Q2_K
2
12.5 GB
Low—
Q3_K_S
3
15.7 GB
Low—
NVFP4
4
17.9 GB
Medium—
Q4_K_M
4
19.5 GB
Medium—
Q5_K_M
5
23.0 GB
High—
Q6_K
6
26.2 GB
High—
Q8_0
8
34.2 GB
Very High—
F16
16
65.6 GB
Maximum—

Quality benchmarks

DeepSeek R1 Distill 32B benchmark scores

Benchmark verified

Coding

SWE-bench Verified—
HumanEval+—
Aider Polyglot—
LiveCodeBench57.2%

Reasoning

MMLU-Pro41.0%
GPQA Diamond62.1%
MATH-50094.3%
ARC Challenge—

General

Chatbot Arena—
IFEval41.9%

Source: official · 2025-01-20

Compatibilidade de hardware

Estimativas de compatibilidade para todo o hardware

Abrir calculadora

Computing compatibility...

Detalhamento de memória

Reference: RTX 2060 6GB

Weights19.5 GB
KV Cache3.9 GB
Runtime1.2 GB
Headroom0.6 GB

Perguntas frequentes

FAQ — DeepSeek R1 Distill 32B

Veja também

Guia de QuantizaçãoMetodologia de PontuaçãoAbrir calculadora