按显存划分的最佳本地大模型

64 GB 显存的最佳大模型

选择你的显存大小。我们按任务为推荐量化下能放得下的所有收录模型排名,并展示升一档能解锁什么。

作者: Jakub Rusinowski · 最后更新:

显存档位64 GB例如 M1 Max, M5 Pro, RTX PRO 5000 Blackwell (72 GB)
放得下的模型148完全载入显存
综合最佳98Qwen 2.5 72B Instruct
能放下的最大模型48.3 GBQwen3-Coder-Next (80B-A3B MoE)

64 GB 下各任务的最佳模型

评分为 0–100 的任务质量分;速度按 M1 Max 估算。

放得下的最强模型

按逻辑与编程排名的前 15 个

模型显存在 M1 Max 上的速度(估算)评分
Qwen 2.5 72B Instruct
Qwen 2.5 Family · Q4_K_M
43.5 GB~5 tok/s98
Qwen 2.5 Coder 32B
Qwen 2.5 Family · Q4_K_M
19.3 GB~10 tok/s97
Llama 3.3 70B Instruct
Llama 3.3 · Q2_K_XS (Tight)
20.2 GB~10 tok/s97
Qwen 3 32B
Qwen 3 · Q4_K_M
19.8 GB~10 tok/s97
DeepSeek R1 Distill Qwen 32B
DeepSeek R1 · Q4_K_M
19.3 GB~10 tok/s96
Qwen 2.5 14B Instruct
Qwen 2.5 Family · Q4_K_M
8.5 GB~22 tok/s95
Nemotron 70B Instruct
Nemotron 70B · Q4_K_M
42.6 GB~5 tok/s94
Qwen 3 14B
Qwen 3 · Q4_K_M
8.9 GB~21 tok/s94
Codestral 22B
Codestral · Q4_K_M
13.4 GB~15 tok/s93
Qwen 3.6 35B-A3B
Qwen 3.6 · Q4_K_M
21.1 GB~84 tok/s93
DeepSeek R1 Distill Qwen 14B
DeepSeek R1 · Q4_K_M
8.5 GB~22 tok/s92
Phi-4 (14B)
Phi-4 Family · Q4_K_M
8.5 GB~22 tok/s92
Gemma 4 31B
Gemma 4 · Q4_K_M
18.7 GB~10 tok/s92
Qwen 2.5 VL 72B Instruct
Qwen 2.5 VL · Q4_K_M
44.3 GB~5 tok/s92
Qwen3-Coder-Next (80B-A3B MoE)
Qwen3-Coder · Q4_K_M
48.3 GB—92

FAQ

What LLMs run well with 64 GB VRAM?

Qwen 2.5 Family, Qwen 2.5 Family, Llama 3.3, Qwen 3, DeepSeek R1 all fit in 64 GB VRAM.

Which GPUs have 64 GB VRAM?

Apple M1 Max, Apple M5 Pro, NVIDIA RTX PRO 5000 Blackwell (72 GB), NVIDIA A100 80GB (PCIe).

各档位一览

显存可放下综合最佳
4 GB35Shieldstral 1.0 3B
6 GB59Granite 3.0 8B Instruct
8 GB75Granite 3.0 8B Instruct
10 GB87Qwen 2.5 14B Instruct
12 GB89Qwen 2.5 14B Instruct
16 GB99Qwen 2.5 14B Instruct
20 GB116Qwen 2.5 14B Instruct
24 GB136Qwen 2.5 Coder 32B
32 GB137Qwen 2.5 Coder 32B
48 GB143Qwen 2.5 72B Instruct
64 GB148Qwen 2.5 72B Instruct
80 GB158Qwen 2.5 72B Instruct