Lmstudio-community

EXAONE 3.5 2.4B Instruct

利用可能なデータが限られています — 一部のスペックが不完全または推定値の可能性があります。
0K トークンコンテキストUnknownライセンス4 入門品質

EXAONE 3.5 2.4B Instruct (2.4000000953674316B parameters) requires approximately 3.5 GB of VRAM with Q4_K_M quantization. For the best balance of quality and speed, we recommend hardware with at least 5 GB of VRAM.

Quick specs

Parameters2.4B
Architecturedense
Context0K tokens
Modalitytext
Min RAM0.9 GB
Rec. RAM1.5 GB (Q4_K_M)
LicenseUnknown
FamilyUnknown
Chat

関連モデル

あなたのハードウェア

検出中...

おすすめ

最適なハードウェア

EXAONE 3.5 2.4B Instructのおすすめ

このモデルを実行

量子化オプション

量子化レベル別VRAM推定値

No hardware detected — fit column shows raw VRAM estimates

QuantBitsVRAMQualityFit
Q2_K
2
0.9 GB
Low
Q3_K_S
3
1.2 GB
Low
NVFP4
4
1.3 GB
Medium
Q4_K_M
4
1.5 GB
Medium
Q5_K_M
5
1.7 GB
High
Q6_K
6
2.0 GB
High
Q8_0
8
2.6 GB
Very High
F16
16
4.9 GB
Maximum

ハードウェア互換性

全ハードウェアの適合度推定

カリキュレーターを開く

Computing compatibility...

メモリ内訳

Reference: RTX 2060 6GB

Weights1.5 GB
KV Cache0.3 GB
Runtime1.2 GB
Headroom0.6 GB

よくある質問

FAQ — EXAONE 3.5 2.4B Instruct

関連項目