𝗟𝗼𝗰𝗮𝗹 𝗖𝗼𝗱𝗶𝗻𝗴 𝗔𝗴𝗲𝗻𝘁𝘀 𝗔𝗿𝗲 𝗔𝗻 𝗘𝗻𝘃𝗶𝗿𝗼𝗻𝗺𝗲𝗻𝘁 𝗣𝗿𝗼𝗯𝗹𝗲𝗺

Prompt artık kodlama ajanı kurulumunun merkezi değil.

Çoğu demo, prompt'un tüm ürünmüş gibi görünmesini sağlıyor. Bir özellik istersiniz. Ajan dosyaları okur. Kodu düzenler. Testleri çalıştırır. Bu, bir videoda temiz görünür.

Gerçek yerel ajanlar daha karmaşıktır. Bir ajan deponuzun (repo) yanında durduğunda, komutlar çalıştırdığında ve araçlar kullandığında, asıl soru değişir.

Mesele "mükemmel bir prompt mu yazdım?" değil; "bu şeye nasıl bir ortam sağladım?" sorusudur.

Bir sohbet asistanının sınırları bellidir. Bağlamı yapıştırırsınız. Karşılığında metin alırsınız. Yerel bir kodlama ajanı ise farklıdır. Shell'inize, yerel araçlarınıza, paket yöneticilerinize ve kimlik bilgilerinize dokunur. Ortam, asıl ürün haline gelir.

Yerel bir ajan kurmak, bir geliştirici altyapısıdır. Sadece bir yapay zeka aracı yüklemek değildir.

Şunlara karar vermelisiniz:

  • Ajan neleri okuyabilir?
  • Neleri düzenleyebilir?
  • Hangi komutları çalıştırabilir?
  • Varsayılan olarak hangi araçlar kullanılabilir?
  • Durum (state) nerede tutulur?
  • Başka bir geliştirici bu kurulumu tekrarlayabilir mi?
  • Ajan geride ne tür kanıtlar bırakır?

Eğer bu cevaplar belirsizse, prompt'unuz sizi kurtarmayacaktır.

Daha iyi bir prompt tek bir cevabı iyileştirir. Daha iyi bir ortam ise tüm döngüyü iyileştirir.

Ajan kurulumuna, CI/CD veya dağıtım eşikleri (deployment gates) gibi yaklaşın. Bunu kişisel bir tercih olarak görmeyin. Bir sistem olarak ele alın.

Eğer bir ajan dosyaları düzenliyor ama kontrolleri çalıştıramıyorsa, gözü bağlı bir kod üreticidir. Eğer daha fazla entegrasyon kulağa hoş geldiği için her araca bağlanabiliyorsa, farkında olmadan bir yetkilendirme modeli oluşturmuşsunuz demektir.

Hedef, küçük ve incelenebilir yeteneklere doğru ilerlemektir.

"Bu testi çalıştır ve hataları özetle" gibi spesifik bir beceri, "her şeyin çalıştığından emin ol" gibi ucu açık bir talimattan daha iyidir. İlki bir iz bırakır. İkincisi ise sadece bir gösteriye davetiye çıkarır.

İyi yazılımın sınırları vardır.

Bir ajanın kaç araca bağlanabileceğine odaklanmayın. Her bir aracın ajana ne yapma imkanı verdiğine odaklanın. Durumu (state) değiştirebilir mi? Canlı ortama (production) erişebilir mi? Gizli bilgileri (secrets) açığa çıkarır mı?

Çıktı, kaldıraç etkisi (leverage) ile aynı şey değildir. Ajanlar daha fazla kod ve daha fazla dal (branch) oluşturabilir. Eğer çalışma kolay okunabilir değilse, bu durum inceleme borcu (review debt) yaratabilir.

Yerel bir kurulum, insanın işini kolaylaştırmalıdır. Eğer sadece ajanı hızlandırıyorsa, ekibiniz hiç de hızlanmamış olabilir.

Çıktıya güvenmeden önce ortama güvenin.

Yerel kodlama ajanları bir çevre sorunudur

Continue, Aider veya OpenDevin gibi doğrudan makinenizde LLM çalıştıran yerel kodlama ajanlarının yükselişi, gizlilik ve geliştirici özerkliği açısından büyük bir kazançtır. Artık mülkiyetiniz altındaki kodu üçüncü taraf bir API'ye göndermenize, abonelik ücreti ödemenize veya gecikme sorunları yaşamanıza gerek yok.

Ancak nadiren konuştuğumuz gizli bir maliyet var: çevresel etki.

Yerel LLM'lerin Enerji Açlığı

Phi-3 gibi küçük bir model çalıştırdığınızda, enerji tüketiminiz ihmal edilebilir düzeydedir. Ancak daha yetenekli ajanlara doğru ilerledikçe, giderek daha büyük modellere güveniyoruz. 70B parametreli bir modeli yerel olarak çalıştırmak önemli miktarda hesaplama gücü gerektirir.

Kabul edilebilir performans elde etmek için üst düzey donanıma ihtiyacınız vardır. Birden fazla NVIDIA RTX 4090 içeren modern bir iş istasyonu, sadece boşta dururken bile yüzlerce watt tüketebilir ve çıkarım (inference) yaparken çok daha fazlasını harcayabilir. Kod yazarken bu ajanları her gün, tüm gün çalıştırıyorsanız, kümülatif enerji tüketimi azımsanmayacak düzeydedir.

Donanım Koşu Bandı

LLM gelişiminin hızlı temposu, donanımın inanılmaz derecede çabuk eskimesi anlamına geliyor. Bugün "üst düzey" olan bir GPU, altı ay sonra piyasaya sürülecek bir modelin kuantizasyon (quantization) gereksinimleri veya bağlam penceresi (context window) talepleriyle başa çıkmakta zorlanabilir.

Bu durum bir "donanım koşu bandı" etkisi yaratıyor. Geliştiriciler, en yeni yerel modellerle uyumlu kalabilmek için donanımlarını sürekli yükseltme baskısı hissediyorlar. Bu sürekli yükseltme döngüsü, eski bileşenlerin daha yeni ve daha verimli (ancak yine de yüksek güç tüketen) çiplerle değiştirilmesi nedeniyle elektronik atık (e-waste) artışına yol açıyor.

Yerel Çıkarımın Karbon Ayak İzi

OpenAI veya Anthropic gibi bulut sağlayıcıları, genellikle enerji verimliliği (PUE - Güç Kullanım Verimliliği) için optimize edilmiş devasa veri merkezleri kullanırken, yerel kurulumlar nadiren optimize edilir. Ev veya ofis kurulumunuz, muhtemelen bir hiper ölçekli (hyperscale) veri merkezinden çok daha az verimlidir.

Milyonlarca geliştiricinin yerel ajanları çalıştırmasından kaynaklanan enerji tüketimini, yerel elektrik şebekelerinin karbon yoğunluğuyla çarptığımızda, çevresel ayak izi önemli bir boyuta ulaşır.

Sonuç

Yerel kodlama ajanları, yazılım geliştirmenin geleceği için güçlü bir araçtır. Ancak, çevresel maliyetin bilincinde olmalıyız. Mümkün olan yerlerde daha küçük, damıtılmış (distilled) modeller kullanarak, çıkarım motorlarımızı optimize ederek ve donanım yaşam döngümüze dikkat ederek verimlilik için çabalamalıyız.