Terminalowe agenty kodujące na lokalnych modelach: OpenCode, Qwen Code, Aider i spółka

Autor: Jakub Rusinowski · Ostatnia aktualizacja 2026-08-04 · Wartości sprzętowe wyliczone naszym silnikiem VRAM

To w terminalu otwartoźródłowe agenty kodujące nadrobiły dystans najszybciej. OpenCode, Qwen Code i Aider są niezależne od modelu i wszystkie mówią przez API zgodne z OpenAI, które wystawiają Ollama, LM Studio, llama.cpp i vLLM — więc wycelowanie ich we własne GPU to kwestia adresu bazowego i nazwy modelu. Różni je waga harnessu: Aider jest najlżejszy i przeżywa okno 16K; nowsze agenty robią więcej i chcą 24 GB wzwyż.

Dwa lata temu dobre agenty kodujące były zamkniętymi produktami przywiązanymi do jednego dostawcy. W 2026 najmocniejsze z tych terminalowych są otwartoźródłowe i z założenia niezależne od dostawcy — konfigurujesz endpoint, a agenta nie obchodzi, czy stoi za nim API z czołówki, czy llama-server na maszynie pod twoim biurkiem. Szczególnie OpenCode urósł do roli faktycznej otwartej odpowiedzi na zamknięte agenty terminalowe: licencja MIT i możliwość sięgnięcia do długiej listy dostawców, lokalnych włącznie.\n\nDla programistów stawiających na lokalność to istotny zwrot. Nie wybierasz już między „dobry agent, cudzy model” a „twój model, mierne narzędzia”. Możesz uruchomić dobrze zaprojektowany harness na wagach, które są twoje. Zostaje jedno ograniczenie, do którego ten dział wraca bez przerwy: im cięższy harness, tym więcej okna potrzebuje, zanim zacznie pracować.

Cztery, które liczą się lokalnie

| Agent | Kształt | Lokalny endpoint | Okno, jakiego chce | Najlepszy do |\n|---|---|---|---|---|\n| Aider | Terminal, zrośnięty z gitem, edycje oparte na diffach | Ollama, dowolny zgodny z OpenAI | 8–16K wystarcza | Małe modele i małe karty. Najlżejszy poważny harness |\n| OpenCode | Pełny agent terminalowy, TUI, MIT | Dowolny dostawca zgodny z OpenAI, Ollama włącznie | 32K wygodnie | Praca przede wszystkim w terminalu, podmiana modelu pod zadanie |\n| Qwen Code | Agent terminalowy dostrojony pod linię koderską Qwena | Endpointy zgodne z OpenAI i lokalna Ollama | 32K wygodnie | Uruchamianie rodziny Qwen3-Coder tak, jak była trenowana do prowadzenia |\n| Cline *(nie terminalowy, dla kontrastu)* | Agent w VS Code | Ollama, LM Studio | 32K i więcej | Praca w edytorze — zobacz przewodnik po Cline |\n\nWzorzec jest konsekwentny: agenty robiące najwięcej zakładają najwięcej kontekstu. Przy 16 GB zwarta mapa repozytorium Aidera i formaty edycji szukaj-i-zamień sprawiają, że znacznie większa część okna to twój kod, a znacznie mniejsza rusztowanie. Od 24 GB wzwyż pełniejsze agenty zaczynają się opłacać — ich planowanie, śledzenie zadań i edycja wielu plików realnie zmniejszają liczbę tur.

Jak wycelować agenta we własne GPU

Mechanika jest wszędzie ta sama: bazowy adres URL zgodny z OpenAI, nazwa modelu i atrapa klucza API dla klientów, które uparcie go wymagają.

# 1. Zaserwuj model z oknem kontekstu mieszczącym prompt agenta
cat > Modelfile <<'EOF'
FROM qwen3.6:27b
PARAMETER num_ctx 32768
EOF
ollama create qwen3.6:27b-32k -f Modelfile
ollama serve            # zgodne z OpenAI pod http://localhost:11434/v1

# 2. Zmienne środowiskowe, które czyta większość agentów CLI
export OPENAI_BASE_URL=http://localhost:11434/v1
export OPENAI_API_KEY=local            # ignorowany, ale często musi być ustawiony

# 3. Aider, wprost
aider --model ollama_chat/qwen3.6:27b-32k

# llama.cpp zamiast Ollamy — ten sam interfejs, precyzyjniejsza kontrola
llama-server -m qwen3-coder-8b-q4_k_m.gguf --port 8080 --ctx-size 16384 \
  --jinja        # użyj szablonu czatu z GGUF-a, potrzebne przy wywołaniach narzędzi

Trzy rzeczy do ustawienia poprawnie, w kolejności, w jakiej najczęściej bywają złe:

1. Okno kontekstu. Domyślne jest za małe na prompt systemowy jakiegokolwiek agenta plus jeden plik. To najczęstsza przyczyna „agent ignoruje instrukcje” — zobacz context engineering. 2. Obsługa wywołań narzędzi. Jeśli agent używa function callingu, serwowany model potrzebuje szablonu czatu, który to obsługuje (--jinja w llama-server; dostrojenie agentowe zamiast bazowego modelu czatowego). Inaczej wybierz agenta pracującego na formatach diff (tool calling). 3. Zapas VRAM na cache. Wagi plus 32K cache'u KV, nie same wagi. Sprawdź to kalkulatorem, zanim odkryjesz to w połowie zadania.

Jaki model serwować agentowi terminalowemu

Wagi Q4_K_M z silnika obliczeniowego tej strony — dolicz cache KV pod skonfigurowany kontekst. Prompty agentowe są duże; nie wymiaruj na samych wagach.

Terminal czy edytor?

To nie rywalizacja — większość ludzi kończy z jednym i drugim, a podział idzie za zadaniem.\n\nAgenty terminalowe przejmują pracę, która z natury ma kształt polecenia: refaktory obejmujące całe repozytorium, migracje, „doprowadź zestaw testów do zieleni”, wszystko, co chcesz puścić w worktree i przejrzeć jako diff. Komponują się ze wszystkim innym, co masz — wpuść w nie wyjście potokiem, uruchom przez SSH, owiń w pętlę powłoki. Ta ostatnia własność czyni je naturalnym gospodarzem loop engineeringu.\n\nAgenty w edytorze przejmują pracę, przy której liczy się widzenie pliku: zmiany eksploracyjne, praca nad interfejsem, wszystko, gdzie chcesz mieć diffy w linii i opinię serwera języka obok siebie.\n\nAutouzupełnianie to osobne zadanie i osobny model — mały, dostrojony pod FIM, odpowiadający w milisekundach, działający obok dowolnego z tych agentów. Pełny rozkład na czynniki w macierzy narzędzi.

Uczciwie o ograniczeniach lokalnego sprzętu

Czego się spodziewać, żebyś skonfigurował się wokół tego zamiast dojść do wniosku, że narzędzia są zepsute:\n\n- Długie autonomiczne przebiegi kosztują czas na zegarze. Model 27B przy 30–60 tokenach na sekundę, wczytujący od nowa rosnący kontekst, to nie jest API z czołówki. Zakreślaj zadania ciaśniej i ograniczaj iteracje; odpowiedzią jest mniej, ale lepszych tur.\n- Część agentów zakłada duże okno. Agent projektowany pod kontekst 200K potrafi kompaktować późno i planować z rozmachem. Tam, gdzie da się to skonfigurować, kompaktuj wcześniej; tam, gdzie się nie da, wybierz lżejszego agenta.\n- Podmiana modelu nie jest lokalnie darmowa. Przełączenie oznacza wczytanie wag — od sekund do minuty. Zmienianie modelu pod każde zadanie, darmowe u hostowanego dostawcy, na własnym GPU jest odczuwalną pauzą; trzymaj jeden model na sesję.\n- Najtrudniejsze pięć procent wciąż sprzyja modelom z czołówki. Układ hybrydowy jest uczciwy: domyślnie lokalnie, a jedno wywołanie API na to zadanie, które raz po raz się wykoleja. Rachunek robi porównanie kosztów; repozytoria o krytycznej prywatności po prostu biorą mniejszy model i ciaśniejszy zakres.

Nie masz sprzętu? Najpierw wynajmij kartę

Chcesz wiedzieć, czy cięższy agent terminalowy jest wart wymiany sprzętu? Wynajmij kartę 48 GB na wieczór, zaserwuj większy model i przepuść przez niego własne repozytorium, zanim cokolwiek wydasz.

• RunPod — RTX 4090 ≈ $0.3–0.7/hr, A100/H100 by the hour; serverless per-second billing available
• Vast.ai — Marketplace of hosted GPUs — often the cheapest per hour (interruptible options)
• Lambda — On-demand A100/H100/B200 instances and clusters, per-hour billing

Pełna lista w katalogu chmurowej AI.

Najczęstsze pytania

Co dalej

• Lokalne serwery API zgodne z OpenAI
• Instalacja Ollamy
• Raport #2 — krajobraz otwartych modeli do kodowania
• Aider z lokalnymi modelami: konfiguracja i modele, które naprawdę działają
• Cline z lokalnymi modelami: co naprawdę działa (i co nie)
• Agent harness: co właściwie zamienia lokalny model w agenta kodującego
• Continue, Cline, Aider czy Tabby: macierz lokalnych narzędzi do kodowania
• Lokalny asystent kodowania — cały dział