NVIDIADesktopowe GPUAktualna generacja

NVIDIA Jetson Thor (T5000) do lokalnych LLM

Autor: Jakub Rusinowski · Ostatnia aktualizacja: 11 listopada 2026

Z 128 GB LPDDR5X przy 273 GB/s Jetson Thor (T5000) uruchamia 161 modeli z katalogu przy Q4_K_M i kontekście 8K. Największy, który się mieści, to Step 3.7 Flash 198B-A11B (~119.7 GB), a najlepszy wybór to Qwen3.8-Flash-Next przy 35–72 tok/s.

Komputer NVIDII dla robotyki: GPU Blackwell (2560 rdzeni CUDA) i 14-rdzeniowy CPU Arm współdzielące 128 GB LPDDR5X przy 273 GB/s, z mocą konfigurowalną od 40 do 130 W. Ta sama przepustowość pamięci co DGX Spark, ale mniejsze GPU, więc wolniej niż DGX Spark przetwarza długie prompty. Zaprojektowany bardziej do robotów i czujników niż na biurko.

Sprawdź mój sprzęt →Pełna tabela benchmarków

Modele, które działają na Jetson Thor (T5000)

Q4_K_M, kontekst 8K, 128 GB do wykorzystania. Uszeregowane według jakości i szybkości.

Model	VRAM	Szybkość	Zmieści się?
Qwen3.8-Flash-Next Qwen3.8	109.7 GB	35–72 tok/s	Mieści się
Qwen 3.5 122B-A10B Qwen 3.5	74.5 GB	16–33 tok/s	Mieści się
Nemotron 3 Super 120B-A12B Nemotron 3 Super	73.3 GB	14–30 tok/s	Mieści się
Nemotron 3.5 Super VL 120B-A12B Nemotron 3.5	73.3 GB	14–30 tok/s	Mieści się
Mistral Small 4 119B-A6.5B Mistral Small 4	72.6 GB	21–43 tok/s	Mieści się
GPT-OSS 120B GPT-OSS	71.6 GB	38–80 tok/s	Mieści się
Llama 4 Scout 17B Llama 4	68.2 GB	12–25 tok/s	Mieści się
Llama 4.5 Scout Llama 4.5	66.6 GB	11–23 tok/s	Mieści się
Qwen3-Coder-Next (80B-A3B MoE) Qwen3-Coder	49.4 GB	58–120 tok/s	Mieści się
Kolibri 1 Kolibri	48.5 GB	52–109 tok/s	Mieści się
Nemotron 3.5 Bolt 74B Nemotron 3.5	45.6 GB	25–52 tok/s	Mieści się
K2 Horizon MoVA 36B-A4B K2 Horizon	25 GB	33–69 tok/s	Mieści się

Pokazano 12 z 161

Kup kartę lub wynajmij tyle samo pamięci

Kup kartę albo wynajmij na godziny GPU z taką samą pamięcią, by najpierw wypróbować modele.

Kup ten sprzęt NVIDIA DGX Spark (128GB) — 128 GB VRAM · 150 W board power Uruchom w chmurze RunPod

lub porównaj w Vast.ai

Jako partner Amazon zarabiamy na kwalifikujących się zakupach. Linki do chmurowych GPU są linkami polecającymi — możemy otrzymać prowizję bez dodatkowych kosztów dla Ciebie.

Szybkość na tle innych GPU

Llama 3.1 8B, Q4_K_M. Szacowane zakresy. Jak to liczymy

H100 80GB (SXM)157–327 tok/s H100 80GB (PCIe)120–250 tok/s RTX 5090113–234 tok/s RTX PRO 6000 Blackwell113–234 tok/s RTX PRO 6000 Blackwell (Max-Q Edition)113–234 tok/s A100 80GB (PCIe)102–196 tok/s RTX PRO 5000 Blackwell (48 GB)94–194 tok/s RTX PRO 5000 Blackwell (72 GB)94–194 tok/s Jetson Thor (T5000)26–53 tok/s

Specyfikacja

Specyfikację zaktualizowano 2026-11-11.

Pamięć: 128 GB LPDDR5X
Przepustowość pamięci: 273 GB/s
Szyna pamięci: 256-bit
Architektura: Blackwell Jetson Thor T5000
Seria: Jetson
Pobór mocy: 130 W
Rok premiery: 2025
Backendy obliczeniowe: CUDA
Dostępne dla modeli: 128 GB

Najlepsze doroboticsedge AI128 GB unified memory

Podobne GPU

NVIDIA GB10 Grace Blackwell128 GB · 273 GB/sTyle samo VRAM, taka sama przepustowość NVIDIA DGX Spark128 GB · 273 GB/sTyle samo VRAM, taka sama przepustowość · $4,699 AMD Ryzen AI Max+ 395128 GB · 256 GB/sTyle samo VRAM, −6% przepustowości

Najczęstsze pytania

Czy NVIDIA Jetson Thor (T5000) uruchomi lokalne LLM?

Tak. Z 128 GB (128 GB dostępne dla modelu) uruchamia 161 modeli z katalogu przy Q4_K_M i kontekście 8K; największy to Step 3.7 Flash 198B-A11B, potrzebuje około 119.7 GB.

Jak szybki jest NVIDIA Jetson Thor (T5000) w inferencji AI?

Szacujemy, że uruchamia Llama 3.1 8B z szybkością 26–53 tok/s przy Q4_K_M. Dla Llama 3.3 70B szacunek wynosi 3.4–7.1 tok/s. To szacunki z modelu przepustowości pamięci, nie pomiary; wzór jest na stronie metodologii.

Jakie LLM uruchomię na 128 GB?

Wśród najlepszych, które się mieszczą: Qwen3.8-Flash-Next, Qwen 3.5 122B-A10B, Nemotron 3 Super 120B-A12B, Nemotron 3.5 Super VL 120B-A12B, Mistral Small 4 119B-A6.5B.

Więcej o tej karcie

Narzędzia

Poradniki