模型	显存	在 RTX 5050 上的速度（估算）	评分
Granite 3.0 8B Instruct Granite 3.0 · Q4_K_M	4.8 GB	~45 tok/s	90
Qwen 2.5 7B Instruct Qwen 2.5 Family · Q4_K_M	4.6 GB	~50 tok/s	89
Qwen 3 8B Qwen 3 · Q4_K_M	5 GB	~44 tok/s	89
DeepSeek R1 Distill Llama 8B DeepSeek R1 · Q4_K_M	4.8 GB	~46 tok/s	89
1-bit Bonsai 27B Bonsai 27B · 1-bit (binary, ~1.125 bpw)	3.8 GB	~52 tok/s	86
Llama 3.1 8B Instruct Llama 3.1 Family · Q4_K_M	4.8 GB	~46 tok/s	83
Granite 4.1 8B IBM Granite 4.1 · Q4_K_M	4.8 GB	~45 tok/s	83
Shieldstral 1.0 3B Shieldstral · Q4_K_M	2.3 GB	~81 tok/s	83
LFM3 1.7B Liquid LFM3 · Q4_K_M	1 GB	~159 tok/s	83
LFM3-VL 2B Liquid LFM3 · Q4_K_M	1.2 GB	~149 tok/s	83
EXAONE 3.5 7.8B EXAONE 3.5 · Q4_K_M	4.7 GB	~46 tok/s	82
Ministral 8B Ministral · Q4_K_M	4.8 GB	~45 tok/s	82
Qwen 2.5 VL 7B Instruct Qwen 2.5 VL · Q4_K_M	5 GB	~46 tok/s	81
StarCoder 2 7B StarCoder 2 · Q4_K_M	4.3 GB	~52 tok/s	81
Gemma 3 4B Instruct Gemma 3 · Q4_K_M	2.4 GB	~83 tok/s	80

8 GB 能解锁什么

需要更高一档显存的最强模型。

6 GB 显存的硬件

Granite 3.0, Qwen 2.5 Family, Qwen 3, DeepSeek R1, Bonsai 27B all fit in 6 GB VRAM.

NVIDIA GeForce RTX 5050, NVIDIA GeForce RTX 5060, NVIDIA GeForce RTX 4060, AMD Radeon RX 9060 XT 8GB.

显存	可放下	综合最佳	能放下的最大模型
4 GB	39	Shieldstral 1.0 3B	Gemma 3 4B Instruct · 2.4 GB
6 GB	67	Granite 3.0 8B Instruct	Qwen 2.5 VL 7B Instruct · 5 GB
8 GB	88	Granite 3.0 8B Instruct	Falcon 3 10B Instruct · 6.2 GB
10 GB	101	Qwen 2.5 14B Instruct	Qwen 3 14B · 8.9 GB
12 GB	103	Qwen 2.5 14B Instruct	StarCoder 2 15B · 9.4 GB
16 GB	113	Qwen 2.5 14B Instruct	Mistral Small 3 (24B) · 14.5 GB
20 GB	131	Qwen 2.5 14B Instruct	Gemma 4 31B · 18.7 GB
24 GB	156	Qwen 2.5 Coder 32B	Qwen 3.6 35B-A3B · 21.1 GB
32 GB	157	Qwen 2.5 Coder 32B	Qwen 3.6 35B-A3B · 21.1 GB
48 GB	163	Qwen 2.5 72B Instruct	Qwen 2.5 VL 72B Instruct · 44.3 GB
64 GB	168	Qwen 2.5 72B Instruct	Qwen3-Coder-Next (80B-A3B MoE) · 48.3 GB
80 GB	178	Qwen 2.5 72B Instruct	Qwen 3.5 122B-A10B · 73.7 GB

作为亚马逊联盟成员，我们从符合条件的购买中获得收入。云 GPU 链接为推荐链接——我们可能获得佣金，您无需额外付费。