Sentence Transformers

All MiniLM L6 v2

Name: All MiniLM L6 v2
Rating: 62 (196 reviews)
Author: Sentence Transformers

Aktuell

HuggingFace

Ollama

207.7MDownloads4.6KLikesAug 2021Veröffentlicht0K TokenKontextApache 2.0Lizenz64 GutQualität

All MiniLM L6 v2 (0.023000000044703484B parameters) requires approximately 2.1 GB of VRAM with F16 quantization. For the best balance of quality and speed, we recommend hardware with at least 3 GB of VRAM.

Loslegen

— kopieren & einfügen, um lokal auszuführen

Copy-paste commands to run All MiniLM L6 v2 on your machine.

Run

ollama run all-minilm

Quick specs

Parameters0.02B

Architecturedense

Context0K tokens

Modalityembedding

Min RAM0 GB

Rec. RAM0 GB (F16)

LicenseApache 2.0

FamilyMiniLM

✓ RAG

About this model

This is a sentence-transformers model: It maps sentences & paragraphs to a 384 dimensional dense vector space and can be used for tasks like clustering or semantic search.

Schnellauswahl

Bestes BudgetB

Intel Arc A380 6GB~$139 — 2 tok/s

Beste GesamtwahlB

GTX 1650 4GB~$149 — 2 tok/s

Beste Hardware

Top-Empfehlungen für All MiniLM L6 v2

RTX 3050 Ti Laptop 4GBB

Dieses Modell ausführen

All MiniLM L6 v2 on Intel Arc A370M 4GB All MiniLM L6 v2 on GTX 1650 4GB All MiniLM L6 v2 on RTX 3050 Ti Laptop 4GB

Quantisierungsoptionen

VRAM-Schätzungen nach Quantisierungsstufe

No hardware detected — fit column shows raw VRAM estimates

Quant	Bits	Quality	Fit
Q2_K	2	Low	—
Q3_K_S	3	Low	—
NVFP4	4	Medium	—
Q4_K_M	4	Medium	—
Q5_K_M	5	High	—
Q6_K	6	High	—
Q8_0	8	Very High	—
F16	16	Maximum	—

Hardware-Kompatibilität

Eignungsschätzungen für alle Hardware

Rechner öffnen

Computing compatibility...

Speicheraufschlüsselung

Reference: RTX 2060 6GB

Weights0.0 GB

KV Cache0.3 GB

Runtime1.2 GB

Headroom0.6 GB

Häufig gestellte Fragen

FAQ — All MiniLM L6 v2

Siehe auch

Quantisierungsleitfaden Bewertungsmethodik Rechner öffnen