UnslothUnsloth

Qwen3.5 122B A10B

利用可能なデータが限られています — 一部のスペックが不完全または推定値の可能性があります。
431.9Kダウンロード199いいね0K トークンコンテキストUnknownライセンス5 入門品質

Qwen3.5 122B A10B (122B parameters) requires approximately 75.9 GB of VRAM with Q3_K_M quantization. For the best balance of quality and speed, we recommend hardware with at least 88 GB of VRAM.

はじめに

— コピー&ペーストでローカル実行

Copy-paste commands to run Qwen3.5 122B A10B on your machine.

Run

docker run --rm -it ghcr.io/ggerganov/llama.cpp:full \ --hf-repo "unsloth/Qwen3.5-122B-A10B-GGUF" \ --hf-file "Qwen3.5-122B-A10B-GGUF-Q3_K_M.gguf" \ -c 4096 -ngl 99

Quick specs

Parameters122B
Architecturedense
Context0K tokens
Modalitytext
Min RAM47.6 GB
Rec. RAM74.4 GB (Q4_K_M)
LicenseUnknown
FamilyQwen
Vision Chat

関連モデル

あなたのハードウェア

検出中...

おすすめ

最適なハードウェア

Qwen3.5 122B A10Bのおすすめ

このモデルを実行

量子化オプション

量子化レベル別VRAM推定値

No hardware detected — fit column shows raw VRAM estimates

QuantBitsVRAMQualityFit
Q2_K
2
47.6 GB
Low
Q3_K_S
3
59.8 GB
Low
NVFP4
4
68.3 GB
Medium
Q4_K_M
4
74.4 GB
Medium
Q5_K_M
5
87.8 GB
High
Q6_K
6
100.0 GB
High
Q8_0
8
130.5 GB
Very High
F16
16
250.1 GB
Maximum

ハードウェア互換性

全ハードウェアの適合度推定

カリキュレーターを開く

Computing compatibility...

メモリ内訳

Reference: RTX 2060 6GB

Weights59.8 GB
KV Cache14.3 GB
Runtime1.2 GB
Headroom0.6 GB

よくある質問

FAQ — Qwen3.5 122B A10B

関連項目