Yapay Zeka Uzmanlığı İnşa Etme Penceresi Kapanıyor
İnsanlar yapay zeka demoları ve üretim sistemleri hakkında sanki aynıymış gibi konuşuyorlar. Değiller.
Gösterişli bir demo ile gerçek dünyada çalışan bir sistem arasında devasa bir uçurum var.
Herkes her şeye bir agent diyor. Hafızası olan bir chatbot bir agent'tır. Döngüsü olan bir script bir agent'tır. Bu yanlış. Bu hata, kötü mühendisliğe yol açar.
Sonuçta basit görevleri aşırı mühendislikten (over-engineering) geçirirken, zor olanları yetersiz mühendislik (under-engineering) ile bırakıyorsunuz.
İşte gerçek bir tanım: Bir agent'ın bir hedefi vardır. Bir sonraki adımı kendisi belirler. Hataları yönetir. Bir görevin ne zaman bittiğini bilir. Geri kalan her şey sadece bir fonksiyon çağrısıdır.
Fark nasıl anlaşılır: • Eğer bir insan her adımı yönlendirmek zorundaysa, bu bir sohbet arayüzüdür. • Eğer bir sistem başarısız bir araç çağrısından (tool call) kurtulabiliyorsa, bu bir agent'tır. • Eğer bir sistem bir hedefi alt görevlere bölüyorsa, bu gerçek bir agent'tır.
Başarılı ekipler sadece yeni modellerin peşinden koşmazlar. Üç şeye odaklanırlar:
- Araç tasarımı: Arayüz ne kadar temiz?
- Hata yönetimi: Bir araç hiçbir şey döndürmediğinde ne olur?
- Gözlemlenebilirlik: Agent bu kararı neden verdi?
Kullandığınız framework, takip ettiğiniz desenlerden (patterns) daha az önem taşır. LangChain veya CrewAI sadece araçtır. Önemli olan mimaridir.
Bu desenleri kullanın:
- Önce planla, sonra uygula: Planlama için bir adım, eylem için ayrı bir adım kullanın.
- Veri getirmeyi (retrieval) muhakemeden (reasoning) ayırın: Veri çekmek ve veriyi kullanmak farklı işlerdir.
- Açık devirler (handoffs): Bir agent işi diğerine devrettiğinde yapılandırılmış loglar kullanın.
RAG da sorunlara yol açıyor. Çoğu kişi chunking (parçalara ayırma) konusunda başarısız oluyor. Eğer parçalarınız (chunks) bağlamı kesiyorsa, model halüsinasyon görecektir. Modeli suçlamadan önce chunking ve meta veri (metadata) işlemlerinizi düzeltmelisiniz.
Modeller daha iyi hale gelecek. Tokenlar daha ucuzlayacak. Bu, mühendislik zorluğunu çözmez.
Asıl zorluk, güvenebileceğiniz sistemler inşa etmektir. Yönetişime (governance) ve güvenilir araç kullanımına ihtiyacınız var.
İki yıl içinde fark yaratacak olan mühendisler prompt mühendisleri değil, sistem tasarımcıları olacaklar. Başkalarının bakımını yapabileceği yapay zekalar inşa edecekler.
İsteğe bağlı öğrenme topluluğu: https://t.me/GyaanSetuAi