模型	显存	在 RTX 5050 上的速度（估算）	评分
Shieldstral 1.0 3B Shieldstral · Q4_K_M	2.3 GB	~81 tok/s	83
LFM3 1.7B Liquid LFM3 · Q4_K_M	1 GB	~159 tok/s	83
LFM3-VL 2B Liquid LFM3 · Q4_K_M	1.2 GB	~149 tok/s	83
Gemma 3 4B Instruct Gemma 3 · Q4_K_M	2.4 GB	~83 tok/s	80
Phi-4 Mini (3.8B) Phi-4 Mini · Q4_K_M	2.3 GB	~79 tok/s	79
Qwen 3.5 4B Qwen 3.5 · Q4_K_M	2.4 GB	~86 tok/s	79
VibeThinker 3B VibeThinker · Q4_K_M	1.9 GB	~94 tok/s	79
Phi 3.5 Mini Phi 3.5 Family · Q4_K_M	2.3 GB	~82 tok/s	79
BitNet b1.58 3B BitNet b1.58 · 1.58-bit	0.7 GB	~160 tok/s	74
StarCoder 2 3B StarCoder 2 · Q4_K_M	1.8 GB	~107 tok/s	74
EXAONE 3.5 2.4B EXAONE 3.5 · Q4_K_M	1.4 GB	~115 tok/s	73
Aya 3B Aya 3B (Tiny Aya) · Q4_K_M	1.8 GB	~96 tok/s	72
Qwen 3.5 2B Qwen 3.5 · Q4_K_M	1.2 GB	~124 tok/s	72
Granite 4.1 3B IBM Granite 4.1 · Q4_K_M	1.8 GB	~96 tok/s	71
Ministral 3B Ministral · Q4_K_M	2.2 GB	~84 tok/s	71

6 GB 能解锁什么

需要更高一档显存的最强模型。

4 GB 显存的硬件

Shieldstral, Liquid LFM3, Liquid LFM3, Gemma 3, Phi-4 Mini all fit in 4 GB VRAM.

NVIDIA GeForce RTX 5050, NVIDIA GeForce RTX 5060, NVIDIA GeForce RTX 4060, AMD Radeon RX 9060 XT 8GB.

显存	可放下	综合最佳	能放下的最大模型
4 GB	39	Shieldstral 1.0 3B	Gemma 3 4B Instruct · 2.4 GB
6 GB	67	Granite 3.0 8B Instruct	Qwen 2.5 VL 7B Instruct · 5 GB
8 GB	88	Granite 3.0 8B Instruct	Falcon 3 10B Instruct · 6.2 GB
10 GB	101	Qwen 2.5 14B Instruct	Qwen 3 14B · 8.9 GB
12 GB	103	Qwen 2.5 14B Instruct	StarCoder 2 15B · 9.4 GB
16 GB	113	Qwen 2.5 14B Instruct	Mistral Small 3 (24B) · 14.5 GB
20 GB	131	Qwen 2.5 14B Instruct	Gemma 4 31B · 18.7 GB
24 GB	156	Qwen 2.5 Coder 32B	Qwen 3.6 35B-A3B · 21.1 GB
32 GB	157	Qwen 2.5 Coder 32B	Qwen 3.6 35B-A3B · 21.1 GB
48 GB	163	Qwen 2.5 72B Instruct	Qwen 2.5 VL 72B Instruct · 44.3 GB
64 GB	168	Qwen 2.5 72B Instruct	Qwen3-Coder-Next (80B-A3B MoE) · 48.3 GB
80 GB	178	Qwen 2.5 72B Instruct	Qwen 3.5 122B-A10B · 73.7 GB

作为亚马逊联盟成员，我们从符合条件的购买中获得收入。云 GPU 链接为推荐链接——我们可能获得佣金，您无需额外付费。