QuantFactory
Modelle durchsuchen
Offene Modelle zum Herunterladen und Ausführen. Wähle deinen Arbeitsspeicher, um zu sehen, was passt.
Modellergebnisse
25 of the first 50 loaded models have a file that fits 16 GB. This is a memory estimate, not a speed test.
QU
QuantFactory
UltraLlama-3.1-8B-GGUF
Chatten & schreiben4.92 GBKeine Lizenz angegeben↓ 879879 Downloads im Katalog
QU
QuantFactory
Llama-3-EZO-8B-Common-it-GGUF
Chatten & schreiben4.92 GBllama3↓ 877877 Downloads im Katalog
Chatten & schreiben2.5 GBKeine Lizenz angegeben↓ 858858 Downloads im Katalog
QU
QuantFactory
Gemma-2-2B-Stheno-Filtered-GGUF
Chatten & schreiben1.71 GBgemma↓ 858858 Downloads im Katalog
Chatten & schreiben2.15 GBapache-2.0↓ 851851 Downloads im Katalog
AR
arcee-ai
Virtuoso-Lite-GGUF
Chatten & schreiben6.29 GBKeine Lizenz angegeben↓ 850850 Downloads im Katalog
QU
QuantFactory
Control-Nanuq-8B-GGUF
Chatten & schreiben4.92 GBKeine Lizenz angegeben↓ 844844 Downloads im Katalog
Chatten & schreiben2.5 GBKeine Lizenz angegeben↓ 841841 Downloads im Katalog
QU
QuantFactory
glm-4-9B-chat-GGUF
Chatten & schreiben6.25 GBglm-4↓ 840840 Downloads im Katalog
MR
mradermacher
Gemma4-E4B-8B-Heretic-Ultra-i1-GGUF
Chatten & schreiben5.34 GBapache-2.0↓ 824824 Downloads im Katalog
QU
QuantFactory
Reasoning-Llama-3B-v0.1-GGUF
Chatten & schreiben2.02 GBllama3.2↓ 818818 Downloads im Katalog
QU
QuantFactory
Book-Gut12B-GGUF
Chatten & schreiben7.48 GBKeine Lizenz angegeben↓ 805805 Downloads im Katalog
A4
Chatten & schreiben1.58 GBapache-2.0↓ 799799 Downloads im Katalog
MR
mradermacher
Fresco-1.2.5-i1-GGUF
Chatten & schreiben4.92 GBKeine Lizenz angegeben↓ 787787 Downloads im Katalog
NE
NeverSleep
Lumimaid-v0.2-8B-GGUF
Chatten & schreiben4.92 GBcc-by-nc-4.0↓ 767767 Downloads im Katalog
Chatten & schreiben7.48 GBapache-2.0↓ 757757 Downloads im Katalog
MR
mradermacher
MN-VelvetCafe-RP-12B-V2-GGUF
Chatten & schreiben7.48 GBcc-by-4.0↓ 751751 Downloads im Katalog
Chatten & schreiben398 MBKeine Lizenz angegeben↓ 734734 Downloads im Katalog
MR
mradermacher
Oolel-v0.1-i1-GGUF
Chatten & schreiben4.68 GBapache-2.0↓ 721721 Downloads im Katalog
OR
Orenguteng
Llama-3-8B-LexiFun-Uncensored-V1-GGUF
Chatten & schreiben4.92 GBLlama 3 Community↓ 698698 Downloads im Katalog
PY
PygmalionAI
Pygmalion-3-12B-GGUF
Chatten & schreiben6.74 GBKeine Lizenz angegeben↓ 685685 Downloads im Katalog
MY
mys
kev-4B-GGUF
Chatten & schreiben4.21 GBapache-2.0↓ 684684 Downloads im Katalog
RE
ReadyArt
Safeword-Casual-V1-12B-GGUF
Chatten & schreiben7.3 GBgemma↓ 670670 Downloads im Katalog
TH
TheDrummer
Gemmasutra-9B-v1.1-GGUF
Chatten & schreiben5.76 GBKeine Lizenz angegeben↓ 649649 Downloads im Katalog