80 GB 显存的最佳大模型
选择你的显存大小。我们按任务为推荐量化下能放得下的所有收录模型排名，并展示升一档能解锁什么。
作者： Jakub Rusinowski · 最后更新：
显存档位80 GB例如 A100 80GB (PCIe), H100 80GB (PCIe), H100 80GB (SXM)
80 GB 下各任务的最佳模型
评分为 0–100 的任务质量分；速度按 A100 80GB (PCIe) 估算。
放得下的最强模型
按逻辑与编程排名的前 15 个
| 模型 | 显存 · 标记 = 80 GB | 显存 | 在 A100 80GB (PCIe) 上的速度（估算） | 评分 |
|---|---|---|---|---|
| Qwen 2.5 72B Instruct Qwen 2.5 Family · Q4_K_M | 43.5 GB | ~25 tok/s | 98 | |
| Qwen 2.5 Coder 32B Qwen 2.5 Family · Q4_K_M | 19.3 GB | ~52 tok/s | 97 | |
| Llama 3.3 70B Instruct Llama 3.3 · Q2_K_XS (Tight) | 20.2 GB | ~50 tok/s | 97 | |
| Qwen 3 32B Qwen 3 · Q4_K_M | 19.8 GB | ~51 tok/s | 97 | |
| DeepSeek R1 Distill Qwen 32B DeepSeek R1 · Q4_K_M | 19.3 GB | ~52 tok/s | 96 | |
| Qwen 2.5 14B Instruct Qwen 2.5 Family · Q4_K_M | 8.5 GB | ~101 tok/s | 95 | |
| Nemotron 70B Instruct Nemotron 70B · Q4_K_M | 42.6 GB | ~26 tok/s | 94 | |
| Qwen 3 14B Qwen 3 · Q4_K_M | 8.9 GB | ~98 tok/s | 94 | |
| Qwen 3.5 122B-A10B Qwen 3.5 · Q4_K_M | 73.7 GB | ~118 tok/s | 93 | |
| Codestral 22B Codestral · Q4_K_M | 13.4 GB | ~71 tok/s | 93 | |
| Qwen 3.6 35B-A3B Qwen 3.6 · Q4_K_M | 21.1 GB | ~258 tok/s | 93 | |
| DeepSeek R1 Distill Qwen 14B DeepSeek R1 · Q4_K_M | 8.5 GB | ~102 tok/s | 92 | |
| Phi-4 (14B) Phi-4 Family · Q4_K_M | 8.5 GB | ~100 tok/s | 92 | |
| Gemma 4 31B Gemma 4 · Q4_K_M | 18.7 GB | ~52 tok/s | 92 | |
| Qwen 2.5 VL 72B Instruct Qwen 2.5 VL · Q4_K_M | 44.3 GB | ~25 tok/s | 92 |
FAQ
What LLMs run well with 80 GB VRAM?
Qwen 2.5 Family, Qwen 2.5 Family, Llama 3.3, Qwen 3, DeepSeek R1 all fit in 80 GB VRAM.
Which GPUs have 80 GB VRAM?
NVIDIA A100 80GB (PCIe), NVIDIA H100 80GB (PCIe), NVIDIA H100 80GB (SXM), NVIDIA RTX PRO 6000 Blackwell.
各档位一览
| 显存 | 可放下 | 综合最佳 | 能放下的最大模型 |
|---|---|---|---|
| 4 GB | 35 | Shieldstral 1.0 3B | Gemma 3 4B Instruct · 2.4 GB |
| 6 GB | 59 | Granite 3.0 8B Instruct | Qwen 2.5 VL 7B Instruct · 5 GB |
| 8 GB | 75 | Granite 3.0 8B Instruct | Falcon 3 10B Instruct · 6.2 GB |
| 10 GB | 87 | Qwen 2.5 14B Instruct | Qwen 3 14B · 8.9 GB |
| 12 GB | 89 | Qwen 2.5 14B Instruct | StarCoder 2 15B · 9.4 GB |
| 16 GB | 99 | Qwen 2.5 14B Instruct | Mistral Small 3 (24B) · 14.5 GB |
| 20 GB | 116 | Qwen 2.5 14B Instruct | Gemma 4 31B · 18.7 GB |
| 24 GB | 136 | Qwen 2.5 Coder 32B | Qwen 3.6 35B-A3B · 21.1 GB |
| 32 GB | 137 | Qwen 2.5 Coder 32B | Qwen 3.6 35B-A3B · 21.1 GB |
| 48 GB | 143 | Qwen 2.5 72B Instruct | Qwen 2.5 VL 72B Instruct · 44.3 GB |
| 64 GB | 148 | Qwen 2.5 72B Instruct | Qwen3-Coder-Next (80B-A3B MoE) · 48.3 GB |
| 80 GB | 158 | Qwen 2.5 72B Instruct | Qwen 3.5 122B-A10B · 73.7 GB |
购买此硬件 NVIDIA DGX Spark (128GB) — 128 GB VRAM · 150 W board power立即云端部署 RunPod 上的 NVIDIA A100 80GB — 低至 $1.39/小时 · 价格核实于 2026-07
或在 Vast.ai 比较，低至 $0.77/小时 (typical low · varies)
作为亚马逊联盟成员，我们从符合条件的购买中获得收入。云 GPU 链接为推荐链接——我们可能获得佣金，您无需额外付费。
Can-I-Run Pages Near 80 GB
- Nemotron 70B on NVIDIA A100 80GB (PCIe)
- Nemotron 70B on NVIDIA H100 80GB (PCIe)
- Command R Family on NVIDIA A100 80GB (PCIe)
- Command R Family on NVIDIA H100 80GB (PCIe)
- Qwen 2.5 Family on NVIDIA A100 80GB (PCIe)
- Qwen 2.5 Family on NVIDIA H100 80GB (PCIe)
- Llama 4 on NVIDIA A100 80GB (PCIe)
- Llama 4 on NVIDIA H100 80GB (PCIe)