BigCodeBigCode

StarCoder 15B

レガシー
24.4Kダウンロード3.0KいいねMay 2023公開日8K トークンコンテキストApache 2.0ライセンス60 良好品質

StarCoder 15B (15B parameters) requires approximately 27.2 GB of VRAM with Q5_K_M quantization. For the best balance of quality and speed, we recommend hardware with at least 32 GB of VRAM.

はじめに

— コピー&ペーストでローカル実行

Copy-paste commands to run StarCoder 15B on your machine.

Run

lms load starcoder && lms server start

Quick specs

Parameters15B
Architecturedense
Context8K tokens
Modalitycode
Min RAM5.9 GB
Rec. RAM10.8 GB (Q5_K_M)
LicenseApache 2.0
FamilyStarCoder
Code Reasoning

About this model

StarCoder 15B is BigCode's flagship code generation model trained on 1 trillion tokens from The Stack. Supports 80+ programming languages with 8K context and strong code completion capabilities.

関連モデル

あなたのハードウェア

検出中...

おすすめ

最適なハードウェア

StarCoder 15Bのおすすめ

このモデルを実行

量子化オプション

量子化レベル別VRAM推定値

No hardware detected — fit column shows raw VRAM estimates

QuantBitsVRAMQualityFit
Q2_K
2
5.9 GB
Low
Q3_K_S
3
7.4 GB
Low
NVFP4
4
8.4 GB
Medium
Q4_K_M
4
9.2 GB
Medium
Q5_K_M
5
10.8 GB
High
Q6_K
6
12.3 GB
High
Q8_0
8
16.1 GB
Very High
F16
16
30.7 GB
Maximum

Quality benchmarks

StarCoder 15B benchmark scores

Benchmark verified

Coding

SWE-bench Verified
HumanEval+33.6%
Aider Polyglot
LiveCodeBench

Source: official · 2023-05-04

ハードウェア互換性

全ハードウェアの適合度推定

カリキュレーターを開く

Computing compatibility...

メモリ内訳

Reference: RTX 2060 6GB

Weights10.8 GB
KV Cache14.6 GB
Runtime1.2 GB
Headroom0.6 GB

よくある質問

FAQ — StarCoder 15B

関連項目