NVIDIA DGX Spark — Local LLM Performance & Compatibility

Name: LLM Configurator — GPU VRAM Checker
Author: LLM Configurator

Autor: Jakub Rusinowski · Ostatnia aktualizacja: 21 lipca 2026

Kompaktowy desktop do rozwoju AI zbudowany wokół superchipa GB10 Grace Blackwell — 20-rdzeniowego CPU Grace ARM połączonego z GPU Blackwell (6144 rdzeni CUDA), dzielących 128 GB zunifikowanej pamięci LPDDR5x przy 273 GB/s. W przeciwieństwie do Apple Silicon obsługuje pełny stos CUDA, co czyni go idealnym do fine-tuningu i wnioskowania na modelach klasy 70B. Premiera w październiku 2025 w cenie 3999 USD; w lutym 2026 cena wzrosła do 4699 USD z powodu ograniczeń w dostawach pamięci.

Technical Specifications

VRAM	128 GB
Memory Bandwidth	273 GB/s
TDP	150 W
Architecture	GB10 Grace Blackwell Superchip
Release Year	2025
MSRP at Launch	$4,699
Inference Speed (Llama 3.1 8B Q4_K_M)	26–53 tok/s (estimated)
Inference Speed (Llama 3.3 70B Q4_K_M)	3.4–7.1 tok/s (estimated)

Buy This HardwareNVIDIA DGX Spark (128GB) — 128 GB VRAM · 150 W board power Deploy in the Cloud NowRunPod

or compare on Vast.ai

As an Amazon Associate we earn from qualifying purchases. Cloud GPU links are referral links — we may earn a commission at no extra cost to you.

Ujawnienie afiliacyjne: Niektóre odnośniki na tej stronie to linki afiliacyjne — jeśli dokonasz zakupu za ich pośrednictwem, LLM Configurator może otrzymać prowizję bez dodatkowych kosztów dla Ciebie. Jako uczestnik programu Amazon Associates, LLM Configurator zarabia na kwalifikujących się zakupach.

NVIDIA DGX Spark (128GB)

128 GB VRAM · 150 W board power

Ceny w 2026 są niestabilne — sprawdź aktualną ofertę.

Sprawdź cenę na Amazon

LLMs Compatible with 128 GB VRAM

All models below run comfortably in 128 GB VRAM with Q4_K_M quantization.

Llama 3.3	Llama 3.3 70B Instruct · 43 GB VRAM · Q4_K_M · `ollama run llama3.3`
Llama 3.1 Family	Llama 3.1 8B Instruct · 6 GB VRAM · Q4_K_M · `ollama run llama3.1`
Llama 4	Llama 4 Scout 17B · 67 GB VRAM · Q4_K_M · `ollama run llama4:scout`
DeepSeek R1	DeepSeek R1 Distill Qwen 32B · 20 GB VRAM · Q4_K_M · `ollama run deepseek-r1:32b`
Qwen 3	Qwen 3 32B · 21 GB VRAM · Q4_K_M · `ollama run qwen3:32b`
Qwen3-Coder	Qwen3-Coder 80B-A3B (MoE) · 49 GB VRAM · Q4_K_M · `ollama run qwen3-coder:80b-a3b-q4`
Gemma 3	Gemma 3 27B Instruct · 17 GB VRAM · Q4_K_M · `ollama run gemma3:27b`
Mistral Small 3.1	Mistral Small 3.1 24B · 15 GB VRAM · Q4_K_M · `ollama run mistral-small3.1`

Best Use Cases

70B models
local LLM development
fine-tuning
unified memory

Quick Start with Ollama

Install Ollama then run the recommended model for this GPU:

ollama run llama3.3:70b

FAQ

Can the NVIDIA DGX Spark run local LLMs?

Yes — the NVIDIA DGX Spark has 128 GB VRAM and runs Kompaktowy desktop do rozwoju AI zbudowany wokół superchipa GB10 Grace Blackwell — 20-rdzeniowego CPU Grace ARM połączon

How fast is the NVIDIA DGX Spark for AI inference?

The NVIDIA DGX Spark is estimated to run Llama 3.1 8B at 26–53 tok/s with Q4_K_M quantization. For Llama 3.3 70B the estimate is 3.4–7.1 tok/s. These are modelled estimates, not measurements — see /en/methodology.

What LLMs can I run on 128 GB VRAM?

With 128 GB you can run: Llama 3.3, Llama 3.1 Family, Llama 4, DeepSeek R1, Qwen 3. Use Ollama for the easiest setup: ollama run llama3.3:70b.

Can I Run It? — NVIDIA DGX Spark

Compare Similar GPUs

VRAM Tier

Best LLMs for 80 GB VRAM

Buying Guide

Best GPU Buyer Guide 2026

← All GPU Reviews | All Hardware | Check Your Hardware | Full Benchmarks | Can I Run It?