Lmstudio-community

starcoder2 15b instruct v0.1

利用可能なデータが限られています — 一部のスペックが不完全または推定値の可能性があります。
0K トークンコンテキストUnknownライセンス3 入門品質

starcoder2 15b instruct v0.1 (15B parameters) requires approximately 12.7 GB of VRAM with Q4_K_M quantization. For the best balance of quality and speed, we recommend hardware with at least 15 GB of VRAM.

Quick specs

Parameters15B
Architecturedense
Context0K tokens
Modalitytext
Min RAM5.9 GB
Rec. RAM9.2 GB (Q4_K_M)
LicenseUnknown
FamilyStarcoder
Code Chat

関連モデル

あなたのハードウェア

検出中...

おすすめ

最適なハードウェア

starcoder2 15b instruct v0.1のおすすめ

このモデルを実行

量子化オプション

量子化レベル別VRAM推定値

No hardware detected — fit column shows raw VRAM estimates

QuantBitsVRAMQualityFit
Q2_K
2
5.9 GB
Low
Q3_K_S
3
7.4 GB
Low
NVFP4
4
8.4 GB
Medium
Q4_K_M
4
9.2 GB
Medium
Q5_K_M
5
10.8 GB
High
Q6_K
6
12.3 GB
High
Q8_0
8
16.1 GB
Very High
F16
16
30.7 GB
Maximum

ハードウェア互換性

全ハードウェアの適合度推定

カリキュレーターを開く

Computing compatibility...

メモリ内訳

Reference: RTX 2060 6GB

Weights9.2 GB
KV Cache1.8 GB
Runtime1.2 GB
Headroom0.6 GB

よくある質問

FAQ — starcoder2 15b instruct v0.1

関連項目