mradermacher
浏览模型
可下载并运行的开放模型。选择你的内存,看看哪些放得下。
模型结果
32 of the first 50 loaded models have a file that fits 16 GB. This is a memory estimate, not a speed test.
MR
mradermacher
Colossal-LLaMA-2-7B-base-i1-GGUF
聊天与写作4.29 GBllama2↓ 5.8K目录下载 5,789 次
MR
mradermacher
Qwen2.5-14B-Instruct-abliterated-v2-GGUF
聊天与写作8.99 GBapache-2.0↓ 5.7K目录下载 5,685 次
MR
mradermacher
Colossal-LLaMA-2-13B-base-i1-GGUF
聊天与写作8.13 GBllama2↓ 5.7K目录下载 5,664 次
ML
mlx-community
Mistral-7B-Instruct-v0.3-4bit
聊天与写作4.08 GBapache-2.0↓ 5.6K目录下载 5,636 次
RI
RichardErkhov
chargoddard_-_llama-2-26B-trenchcoat-stack-gguf
聊天与写作5.5 GB未声明许可证↓ 5.6K目录下载 5,579 次
MR
mradermacher
LeetCodeWizard_13B_v1.1a-i1-GGUF
聊天与写作7.87 GBllama2↓ 5.5K目录下载 5,535 次
MR
mradermacher
youri-7B-instruction-i1-GGUF
聊天与写作4.08 GBllama2↓ 5.4K目录下载 5,427 次
MR
mradermacher
OpenELM-3B-Instruct-GGUF
聊天与写作1.89 GBapple-amlr↓ 5.4K目录下载 5,408 次
TH
TheBloke
deepseek-coder-5.7bmqa-base-GGUF
聊天与写作3.43 GBdeepseek↓ 5.4K目录下载 5,403 次
MR
mradermacher
Sydney_Overthinker_13b_HF-i1-GGUF
聊天与写作7.87 GBllama2↓ 5.3K目录下载 5,345 次
KO
KoboldAI
LLaMA2-13B-Tiefighter-GGUF
聊天与写作7.87 GBllama2↓ 5.2K目录下载 5,247 次
MR
mradermacher
Swallow-7B-NVE-instruct-hf-i1-GGUF
聊天与写作4.08 GBllama2↓ 5.2K目录下载 5,210 次
MR
mradermacher
CodeLlama-7B-Python-hf-i1-GGUF
聊天与写作4.08 GBllama2↓ 5.2K目录下载 5,195 次
TH
TheDrummer
Rocinante-12B-v1.1-GGUF
聊天与写作7.48 GB未声明许可证↓ 5K目录下载 5,019 次
MR
mradermacher
Qwen2.5-7B-Instruct-Uncensored-i1-GGUF
聊天与写作4.68 GBgpl-3.0↓ 4.9K目录下载 4,862 次
MR
mradermacher
Ling-3.0-tiny-Uncensored-Abliterated-GGUF
聊天与写作4.82 GBmit↓ 4.3K目录下载 4,333 次
TE
tencent
Hy-MT2-7B-FP8
聊天与写作8.03 GBapache-2.0↓ 4.2K目录下载 4,205 次
MR
mradermacher
Qwen3.8-2B-Heretic-Max-i1-GGUF
聊天与写作1.27 GBapache-2.0↓ 4K目录下载 3,954 次
MR
mradermacher
Huihui-GLM-4.6V-Flash-abliterated-i1-GGUF
聊天与写作6.17 GBmit↓ 3.9K目录下载 3,926 次
MR
mradermacher
Ling-3.0-tiny-Uncensored-Abliterated-i1-GGUF
聊天与写作4.82 GBmit↓ 3.7K目录下载 3,655 次
MR
mradermacher
granite-4.2-8B-i1-GGUF
聊天与写作5.35 GBapache-2.0↓ 3.6K目录下载 3,593 次
QU
QuantFactory
mamba-130m-hf-GGUF
聊天与写作90 MB未声明许可证↓ 3.5K目录下载 3,487 次
MR
mradermacher
Qwen3.8-4B-Distill-heretic-i1-GGUF
聊天与写作2.71 GBapache-2.0↓ 3.3K目录下载 3,328 次
MR
mradermacher
Qwen2.5-7B-Instruct-abliterated-v2-GGUF
聊天与写作4.68 GBapache-2.0↓ 3.3K目录下载 3,278 次
聊天与写作7.48 GB未声明许可证↓ 3.2K目录下载 3,211 次
MR
聊天与写作5.76 GB未声明许可证↓ 3.1K目录下载 3,125 次
MR
mradermacher
Darwin-9B-NEG-x-Negentropy-V8-i1-GGUF
聊天与写作5.63 GBapache-2.0↓ 3.1K目录下载 3,055 次
ML
mlx-community
dolphin3.0-llama3.2-3B-4Bit
聊天与写作1.81 GBllama3.2↓ 3K目录下载 3,049 次
MR
mradermacher
granite-4.2-3B-i1-GGUF
聊天与写作2.24 GBapache-2.0↓ 2.9K目录下载 2,934 次
聊天与写作1.27 GBapache-2.0↓ 2.8K目录下载 2,821 次
AM
聊天与写作5.63 GBapache-2.0↓ 2.8K目录下载 2,752 次