Mradermacher
SOLAR 10.7B v1.0
利用可能なデータが限られています — 一部のスペックが不完全または推定値の可能性があります。
0K トークンコンテキストUnknownライセンス3 入門品質
SOLAR 10.7B v1.0 (10.699999809265137B parameters) requires approximately 9.6 GB of VRAM with Q4_K_M quantization. For the best balance of quality and speed, we recommend hardware with at least 12 GB of VRAM.
Quick specs
Parameters10.7B
Architecturedense
Context0K tokens
Modalitytext
Min RAM4.2 GB
Rec. RAM6.5 GB (Q4_K_M)
LicenseUnknown
FamilyUnknown
✓ Chat
関連モデル
おすすめ
最適なハードウェア
SOLAR 10.7B v1.0のおすすめ
このモデルを実行
量子化オプション
量子化レベル別VRAM推定値
No hardware detected — fit column shows raw VRAM estimates
| Quant | Bits | VRAM | Quality | Fit |
|---|---|---|---|---|
Q2_K | 2 | 4.2 GB | Low | — |
Q3_K_S | 3 | 5.2 GB | Low | — |
NVFP4 | 4 | 6.0 GB | Medium | — |
Q4_K_M | 4 | 6.5 GB | Medium | — |
Q5_K_M | 5 | 7.7 GB | High | — |
Q6_K | 6 | 8.8 GB | High | — |
Q8_0 | 8 | 11.4 GB | Very High | — |
F16 | 16 | 21.9 GB | Maximum | — |
ハードウェア互換性
全ハードウェアの適合度推定
Computing compatibility...
メモリ内訳
Reference: RTX 2060 6GB
Weights6.5 GB
KV Cache1.3 GB
Runtime1.2 GB
Headroom0.6 GB
よくある質問
FAQ — SOLAR 10.7B v1.0
関連項目