Kod için yerel LLM'ler: kendi makinenizde bir kod modeli nasıl çalıştırılır (2026)
Yetenekli bir kod modelini tamamen kendi makinenizde çalıştırabilirsiniz — API anahtarı yok, bulut yok, kodunuz bilgisayardan çıkmıyor. 8 GB VRAM'li bir dizüstü sağlam bir 7B kod modeli çalıştırır; 24–32 GB'lik bir GPU veya Mac, barındırılan bir asistana yakın bir şey çalıştırır. Bu rehber, yerel bir kod LLM'inin gerçekte neler yapabileceğini, donanımınıza uygun birini nasıl seçeceğinizi, bir runtime'ı nasıl kuracağınızı ve gerçek bir kod ajanını ona nasıl bağlayacağınızı anlatır.
Kısacası: bir runtime seçin (en kolayı Ollama), VRAM'inize göre boyutlandırılmış bir kod modeli indirin ve modelden bağımsız bir editör ya da ajanı yerel endpoint'e yönlendirin. Çıkarım artık CPU/GPU'nuzda olur ve hiçbir şey bir sağlayıcıya gönderilmez. Tek gerçek kısıt bellektir — modelin ne kadar büyük, dolayısıyla ne kadar iyi olabileceğini o belirler.
Yerel bir kod modeli ne yapabilir (ne yapamaz)
Yerel bir kod LLM'i, bir sağlayıcının sunucuları yerine kendi donanımınızda çalışan bir modeldir. 2026'da günlük iş için barındırılan modellerle arasındaki fark belirgin biçimde daraldı:
- İyi olduğu işler: otomatik tamamlama, fonksiyon ve test yazma, kod açıklama, küçük yeniden düzenlemeler, boilerplate, shell ve config parçacıkları ve iyi tanımlı bir görevde bir ajanın beyni olmak.
- Zayıf kaldığı yerler: çok geniş çok dosyalı akıl yürütme, en yeni çerçeveler ve uzun otonom koşular — en büyük barındırılan modellerin hâlâ önde olduğu yerler.
Ödünleşim basit. Barındırılan modeller daha büyüktür ve kurulum istemez, ama prompt'unuz ve çoğu zaman çevredeki dosyalar makineden çıkar (bkz. Yapay zekâ kodlama araçları kodunuzu buluta mı gönderiyor?). Yerel bir model daha küçüktür ama gizli, çalıştırması ücretsiz ve çevrimdışı çalışır. Tescilli, müşteri ya da düzenlemeye tabi kod için bu ödünleşim genellikle değer.
Adım 1 — Modeli VRAM'inize göre seçin
Bellek belirleyici etkendir. Bir modelin ağırlıkları kabaca şu kadar yer kaplar:
Ağırlık GB'si ≈ (milyar cinsinden parametre × ağırlık başına bit) ÷ 8
Çoğu kişi 4-bit niceleme (Q4_K_M sürümleri) kullanır; bu, kaliteyi yüksek tutarken boyutu ~4× küçültür. Q4'teki bir 7B model yalnızca ~4–5 GB ağırlıktır. Üstüne bağlam penceresi (KV önbelleği) ve runtime yükü için pay bırakın — bir model VRAM sınırına tam oturursa sistem RAM'ine taşar ve çok yavaşlar.
Kod için pratik kademeler (Q4_K_M), başlangıç noktası olarak:
| Donanımınız | Model boyutu | 2026 için iyi seçimler |
|---|---|---|
| 8 GB VRAM / 16 GB Mac | 7–8B | Qwen2.5-Coder 7B; salt otomatik tamamlama için 1.5B |
| 12–16 GB VRAM | 13–14B | Qwen2.5-Coder 14B, Codestral 22B (sınırda) |
| 24–32 GB VRAM / 32 GB Mac | 27–32B | Qwen3-Coder 30B (MoE, hızlı), Devstral Small 2 (ajansal) |
İki uyarı. Apple Silicon birleşik bellek kullanır, bu yüzden bu VRAM sayıları birebir çevrilmez — 32 GB'lik bir Mac 27–32B bir modeli rahatça çalıştırır. Ve model yelpazesi hızla değişir: yukarıdaki adları başlangıç noktası sayın ve karar vermeden önce güncel etiketleri Ollama kütüphanesi veya Hugging Face'te kontrol edin. Benchmark puanları çoğunlukla model üreticilerince beyan edilir — kendi kodunuzda iki üç tanesini deneyin ve kendiniz karar verin.
Adım 2 — Bir runtime kurun
Bir runtime modeli yükler ve yerel bir API üzerinden sunar. En kolaydan başlayan dört yaygın seçenek:
- Ollama — indirip çalıştırmak için tek komut;
http://localhost:11434üzerinde OpenAI uyumlu bir endpoint sunar. En iyi varsayılan. - LM Studio — model tarayıcısı ve tek tıkla yerel sunucusu olan bir GUI; terminalden kaçınmak isteyenler için ideal.
- llama.cpp — çoğu aracın üzerine kurulduğu düşük seviyeli motor; thread, bağlam ve GPU offload üzerinde azami kontrol.
- vLLM — büyük GPU'lu bir iş istasyonu ya da paylaşımlı makine için yüksek verimli servis.
Ollama ile bir kod modeli kurup çalıştırın:
# kurulum (macOS/Linux); Windows'ta ollama.com'da bir yükleyici var
curl -fsSL https://ollama.com/install.sh | sh
# makinenize göre boyutlandırılmış bir kod modeli indirin
ollama pull qwen2.5-coder:7b # 8-16 GB
# ollama pull qwen2.5-coder:14b # 16 GB+
# ollama pull qwen3-coder:30b # 24-32 GB
# çalıştırın — bu ayrıca :11434'te yerel API'yi başlatır
ollama run qwen2.5-coder:7b
Bağlam penceresini büyütün. Ollama varsayılan olarak gerçek kod için fazla kısa bir bağlam kullanır. Koşu başına daha büyük bir tane ayarlayın ya da bir Modelfile'a gömün:
# tek seferlik: bu oturum için daha büyük bağlam
OLLAMA_CONTEXT_LENGTH=16384 ollama serve
# ya da yeniden kullanılabilir bir Modelfile
printf 'FROM qwen2.5-coder:7b\nPARAMETER num_ctx 16384\n' > Modelfile
ollama create qwen-coder-16k -f Modelfile
Endpoint'in yanıt verdiğini doğrulayın — OpenAI API'si konuşur, dolayısıyla modelden bağımsız her araç kullanabilir:
curl http://localhost:11434/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{"model":"qwen2.5-coder:7b","messages":[{"role":"user","content":"Write a Python function that reverses a string."}]}'
Adım 3 — Bir ajanı yerel modele yönlendirin
Terminaldeki çıplak bir model yalnızca sohbettir. Değer, dosyalarınızı okuyabilen, komut çalıştırabilen ve düzenleme uygulayabilen, bulut anahtarı yerine yerel endpoint'inize yönlendirilmiş modelden bağımsız bir kod ajanı veya editörden gelir. Endpoint OpenAI uyumlu olduğundan kurulum genellikle üç alandır:
- Taban URL:
http://localhost:11434/v1 - API anahtarı: herhangi bir şey (yerel runtime'lar yok sayar)
- Model: indirdiğiniz etiket, örn.
qwen2.5-coder:7b
Bütün bağlantı bu kadar. Artık ajanın akıl yürütmesi GPU'nuzda çalışır ve kodunuz makineyi hiç terk etmez. Ağır görevler için daha büyük bir yerel model, satır içi tamamlama için küçük bir tane bulundurun — birçok kurulum ikisini birden çalıştırır.
NoTrack Coder nereye oturur
NoTrack Coder, Windows için tam da bu kurulum için yapılmış, özerk ve local-first bir kod ajanıdır: onu yerel bir runtime'a — Ollama, LM Studio, llama.cpp veya vLLM — yönlendirin; model yerelde kalırken makinenizde gerçek araçlar, shell ve dosya düzenlemeleri çalıştırır, sıfır telemetri ve .env dosyaları, token ve anahtarların bir prompt'ta asla yolculuk etmemesi için gizli bilgi maskeleme ile. Tasarımı gereği modelden bağımsızdır: özel iş için tamamen yerel, ya da görev başına barındırılan bir endpoint'e geçin — bağımlılık yok. Yerel yaklaşımın dürüst bir örneği — karşılaştırma sayfalarında nasıl durduğuna bakın, belgeleri okuyun veya fiyatlandırmayı inceleyin.
Kodunuzun makinenizde kalmasını mı istiyorsunuz? Windows için indirin.
Sık sorulan sorular
2026'da en iyi yerel kod LLM'i hangisi?
Çoğu makine için Qwen ailesinden bir kod modeli tutarlı seçimdir: 8–16 GB'de Qwen2.5-Coder 7B, 24–32 GB'lik bir GPU ya da 32 GB Mac'te Qwen3-Coder 30B veya Devstral Small 2. Benchmark'lar çoğunlukla beyana dayalıdır, bu yüzden karar vermeden önce kendi kodunuzda iki üç tanesini deneyin.
Yerel olarak bir kod modeli çalıştırmak için ne kadar VRAM gerekir?
Kabaca: 4-bit'te bir 7–8B model için 8 GB, bir 13–14B için 16 GB ve bir 27–32B için 24 GB+ — hep Q4_K_M nicelemede ve bağlam penceresine pay bırakarak. Apple Silicon'un birleşik belleği, ham sayıların ima ettiğinden daha ileri gider.
Yerel bir kod LLM'ini tamamen çevrimdışı kullanabilir miyim?
Evet. Model indirildikten sonra Ollama veya llama.cpp gibi bir runtime onu hiç ağ olmadan çalıştırır — çıkarım CPU/GPU'nuzda olur, yani uçakta ya da internetten yalıtılmış bir makinede çalışır.
Yerel bir modeli editörüme veya ajanıma nasıl bağlarım?
Çoğu runtime OpenAI uyumlu bir endpoint sunar (Ollama http://localhost:11434/v1). Modelden bağımsız bir editör ya da ajanda taban URL'yi o adrese ayarlayın, API anahtarı olarak herhangi bir yer tutucu girin ve indirdiğiniz model etiketini seçin.
Yerel kod modelleri ChatGPT veya Claude kadar iyi mi?
Zirvede tam değil — en büyük barındırılan modeller büyük çok dosyalı akıl yürütmede ve uzun otonom koşularda hâlâ önde. Ama otomatik tamamlama, fonksiyonlar, testler, açıklamalar ve iyi tanımlı ajan görevleri için 2026'da 14–32B bir yerel model günlük iş için yeterince yakın, üstelik gizli ve çalıştırması ücretsiz.
Niceleme kod kalitesini düşürür mü?
Q4_K_M'de neredeyse hiç. 4-bit niceleme yerel kullanım için standart ödünleşimdir: bir modeli ~4× küçültür, kalite bedeli ise çoğu kişinin kod görevlerinde hiç fark etmediği kadar küçüktür. 4-bit'in altına yalnızca çok kısıtlı donanımda inin.
