AppleMac / 统一内存当前在售

Apple M3 Ultra 运行本地大模型

Name: LLM Configurator — GPU VRAM Checker
Author: LLM Configurator

作者： Jakub Rusinowski · 最后更新： 2026年7月12日

凭借 512 GB、819 GB/s 带宽，M3 Ultra 可在 Q4_K_M、8K 上下文下运行目录中的 181 个模型。能放下的最大模型是 Step 5 Preview 600B-A27B（约 366.4 GB），首选是 Beam 1.0 501B-A23B，速度 15–30 tok/s。

Apple's highest-end Mac Studio configuration launched with up to 512 GB unified memory at 819 GB/s — enough for 70B+ and some 100B+ class models at Q4/Q5. Note: in March 2026 Apple lowered the maximum purchasable configuration to 256 GB due to DRAM shortages; 512 GB units already in the field retain full capability.

检测我的硬件 →完整基准测试表

可在 M3 Ultra 上运行的模型

Q4_K_M，8K 上下文，可用 384 GB。按质量和速度排序。

模型	显存	速度	适配
Beam 1.0 501B-A23B Reflection Beam	303.5 GB	15–30 tok/s	可运行
Qwen3-Coder 480B-A35B (MoE) Qwen3-Coder	291.6 GB	12–26 tok/s	可运行
MiniMax M3 428B-A23B MiniMax M3	259.2 GB	15–31 tok/s	可运行
MiniMax M3.1 Flash 428B-A23B MiniMax M3	259.2 GB	15–31 tok/s	可运行
Llama 4 Maverick 17B Llama 4	243.9 GB	22–46 tok/s	可运行
Trinity-Large-Thinking Trinity	242 GB	30–62 tok/s	可运行
Qwen 3.5 397B-A17B Qwen 3.5	240.5 GB	18–38 tok/s	可运行
Nex-N2.5 Pro Nex-N2.5	240.5 GB	18–38 tok/s	可运行
Nex-N2 Pro Nex-N2	240.5 GB	18–38 tok/s	可运行
K2 Horizon 375B-A23B K2 Horizon	231.8 GB	17–35 tok/s	可运行
GLM-5.3-Flash 320B-A18B GLM-5.3-Flash	194 GB	18–37 tok/s	可运行
MiMo-V2.5 310B MiMo-V2.5	188 GB	20–42 tok/s	可运行

显示 181 个中的 12 个

购买显卡，或租用同等显存

直接购买显卡，或按小时租用同等显存的 GPU，先试用模型。

购买此硬件 Apple Mac Studio M3 Ultra — 512 GB VRAM · 60 W board power 立即云端部署 RunPod

或在 Vast.ai 比较

作为亚马逊联盟成员，我们从符合条件的购买中获得收入。云 GPU 链接为推荐链接——我们可能获得佣金，您无需额外付费。

联盟营销声明: 本页部分链接为联盟推广链接——如果你通过它们购买，LLM Configurator 可能会获得佣金，而你无需支付任何额外费用。作为亚马逊联盟成员（Amazon Associate），LLM Configurator 会从符合条件的购买中获得收益。

Apple Mac Studio M3 Ultra

512 GB VRAM · 60 W board power

2026年价格波动较大——请以当前商品页价格为准。

在亚马逊查看价格

与其他 GPU 的速度对比

Llama 3.1 8B，Q4_K_M。估算区间。计算方法

M5 Ultra59–123 tok/s M3 Ultra43–90 tok/s M1 Ultra43–89 tok/s M2 Ultra43–89 tok/s M5 Max34–71 tok/s M4 Max31–64 tok/s M5 Max (32-core GPU)27–56 tok/s M4 Max (32-core GPU)24–50 tok/s

规格

规格更新于 2026-07-12。

显存: 512 GB
内存带宽: 819 GB/s
架构: ARM, 3nm TSMC
系列: Apple Silicon
整卡功耗: 60 W
发布年份: 2025
模型可用: 384 GB（约为统一内存的 75%）

最适合70B+ modelslargest local LLMsMac Studioresearch

推荐的第一个模型（Ollama）

相似 GPU

Apple M5 Ultra512 GB · 1,229 GB/s显存相同，带宽 +50%Apple M2 Ultra192 GB · 800 GB/s显存 −320 GB，带宽 −2%Apple M1 Ultra128 GB · 800 GB/s显存 −384 GB，带宽 −2%

常见问题

Apple M3 Ultra 能运行本地大模型吗？

可以。它有 512 GB（模型可用 384 GB），在 Q4_K_M、8K 上下文下可运行目录中的 181 个模型；最大的是 Step 5 Preview 600B-A27B，约需 366.4 GB。

Apple M3 Ultra 的 AI 推理速度有多快？

估计它在 Q4_K_M 下运行 Llama 3.1 8B 的速度为 43–90 tok/s。Llama 3.3 70B 的估算为 6.5–13 tok/s。这些是基于内存带宽的模型估算，并非实测；公式见方法说明页。

512 GB 能运行哪些大模型？

能放下的最佳模型包括：Beam 1.0 501B-A23B、Qwen3-Coder 480B-A35B (MoE)、MiniMax M3 428B-A23B、MiniMax M3.1 Flash 428B-A23B、Llama 4 Maverick 17B。最快的上手方式是 Ollama：ollama run llama3.3:70b。

能在 M3 Ultra 上运行吗？

关于这张卡的更多内容

工具

指南