Mradermacher

Baichuan M3 235B

利用可能なデータが限られています — 一部のスペックが不完全または推定値の可能性があります。
0K トークンコンテキストUnknownライセンス3 入門品質

Baichuan M3 235B (235B parameters) requires approximately 172.7 GB of VRAM with Q4_K_M quantization. For the best balance of quality and speed, we recommend hardware with at least 199 GB of VRAM.

Quick specs

Parameters235B
Architecturedense
Context0K tokens
Modalitytext
Min RAM91.7 GB
Rec. RAM143.4 GB (Q4_K_M)
LicenseUnknown
FamilyUnknown
Chat

関連モデル

あなたのハードウェア

検出中...

おすすめ

最適なハードウェア

Baichuan M3 235Bのおすすめ

このモデルを実行

量子化オプション

量子化レベル別VRAM推定値

No hardware detected — fit column shows raw VRAM estimates

QuantBitsVRAMQualityFit
Q2_K
2
91.7 GB
Low
Q3_K_S
3
115.2 GB
Low
NVFP4
4
131.6 GB
Medium
Q4_K_M
4
143.4 GB
Medium
Q5_K_M
5
169.2 GB
High
Q6_K
6
192.7 GB
High
Q8_0
8
251.5 GB
Very High
F16
16
481.7 GB
Maximum

ハードウェア互換性

全ハードウェアの適合度推定

カリキュレーターを開く

Computing compatibility...

メモリ内訳

Reference: RTX 2060 6GB

Weights143.4 GB
KV Cache27.5 GB
Runtime1.2 GB
Headroom0.6 GB

よくある質問

FAQ — Baichuan M3 235B

関連項目