SnowflakeSnowflake

Snowflake Arctic Embed L

Aktuell
85.5KDownloads102LikesApr 2024Veröffentlicht1K TokenKontextApache 2.0Lizenz78 StarkQualität

Snowflake Arctic Embed L (0.33500000834465027B parameters) requires approximately 4.0 GB of VRAM with F16 quantization. For the best balance of quality and speed, we recommend hardware with at least 5 GB of VRAM.

Loslegen

— kopieren & einfügen, um lokal auszuführen

Copy-paste commands to run Snowflake Arctic Embed L on your machine.

Run

ollama run snowflake-arctic-embed

Quick specs

Parameters0.34B
Architecturedense
Context1K tokens
Modalityembedding
Min RAM0.1 GB
Rec. RAM0.7 GB (F16)
LicenseApache 2.0
FamilyArctic Embed
RAG

About this model

News | Models | Usage | Evaluation | Contact | FAQ License | Acknowledgement

Deine Hardware

Erkennung...

Schnellauswahl

Beste Hardware

Top-Empfehlungen für Snowflake Arctic Embed L

Dieses Modell ausführen

Quantisierungsoptionen

VRAM-Schätzungen nach Quantisierungsstufe

No hardware detected — fit column shows raw VRAM estimates

QuantBitsVRAMQualityFit
Q2_K
2
0.1 GB
Low
Q3_K_S
3
0.2 GB
Low
NVFP4
4
0.2 GB
Medium
Q4_K_M
4
0.2 GB
Medium
Q5_K_M
5
0.2 GB
High
Q6_K
6
0.3 GB
High
Q8_0
8
0.4 GB
Very High
F16
16
0.7 GB
Maximum

Hardware-Kompatibilität

Eignungsschätzungen für alle Hardware

Rechner öffnen

Computing compatibility...

Speicheraufschlüsselung

Reference: RTX 2060 6GB

Weights0.7 GB
KV Cache1.5 GB
Runtime1.2 GB
Headroom0.6 GB

Häufig gestellte Fragen

FAQ — Snowflake Arctic Embed L

Siehe auch