"Ajan" kelimesi anlamını yitiriyor. Şu an herhangi bir ürün duyurusuna göz atın; her yapay zeka özelliği kendisinin bir ajan olduğunu iddia ediyor. E-posta taslakları oluşturan arkadaş canlısı bir widget mı? Ajan. Bilgi tabanınızı okuyan bir destek botu mu? Ajan. Bir API'yi çağıran ve JSON döndüren bir betik mi? O da bir ajan. Bu sadece özensiz bir pazarlama değil; bu, tehlikeli bir tasarımdır. Her şeye ajan dediğinizde, aslında ne inşa ettiğinizi anlamayı bırakırsınız. İşi tanımlamadan karmaşık mimarilere yönelirsiniz. Sonuç; kırılgan kodlar, kontrolden çıkan token maliyetleri ve açıklayamadığınız veya yeniden üretemediğiniz şekillerde davranan sistemlerdir.
Chatbotlar Bekler, Eylemde Bulunmazlar
Chatbotlar en basit seviyede yer alır. Tepkiseldirler. Bir kullanıcı bir soru yazar, model bir yanıt üretir ve başka bir insan komutu gelmediği sürece konuşma orada biter. Bu sistemler takviminizi kontrol etmeye, bir veri tabanı kaydını güncellemeye veya açıklama beklemek için duraklamaya karar vermezler. Bir SaaS fiyatlandırma sayfasındaki gömülü yardım widget'ını düşünün. Faturalandırma döngüleri ve özellik limitleri hakkındaki soruları yanıtlar. Bir müşteriye para iadesi yapmaz, bir planı yükseltmez veya şüpheli bir hesabı işaretlemez. Araçları yoktur, sohbet penceresinin ötesinde kalıcı bir durumları yoktur ve ilgili bir cümle üretmek dışında bir hedefleri yoktur. Bu bir chatbot'tur. Yanıt verir; eylemde bulunmaz.
Asistanlar Bir Pencere İçinde Yardımcı Olur
Asistanlar, eylem yetkisi katmadan gelişmişlik katar. Bir persona benimsemek için sistem istemlerini (system prompts) kullanırlar. Daha uzun konuşmalar boyunca bağlamı korurlar. Yüklediğiniz bir belgeyi özetleyebilir veya bir paragrafınızı farklı bir tonda yeniden yazabilirler. Dilbilginizi kontrol eden ve daha net ifadeler öneren bir yazım asistanı yararlıdır. İngiliz İngilizcesi yazımını tercih ettiğinizi hatırlar. Ancak sizin adınıza bir eylemde bulunmaz. Editörünüze e-posta göndermeye, bir son teslim tarihi belirlemeye veya kendiliğinden web'de arama yapmaya karar vermez. Sağladığınız pencere içinde size yardımcı olur. Arabayı sürmez; siz direksiyonu tutarken daha iyi bir rota önerir.
İş Akışları Sizin Çizdiğiniz Haritayı Takip Eder
İş akışları, çoğu üretim aşamasındaki yapay zeka sisteminin aslında ait olduğu orta noktada yer alır. Burada yolu siz tanımlarsınız. Bir dizi adım oluşturursunuz: fatura tarihini çıkar, satıcı kimliğini bul, tutarı satın alma emriyle karşılaştır, muhasebe çizelgesini güncelle, rakamlar eşleşmiyorsa finansa bir bildirim gönder. Model faturayı okuyabilir veya bir tutarsızlığı sınıflandırabilir, ancak sizin grafiğinizi takip eder. Haritayı siz çizdiğiniz için ne olacağını tam olarak bilirsiniz.
İş akışlarını test etmek daha kolaydır. Her adımı tek başına birim testine (unit-test) tabi tutabilirsiniz. Her düğümde (node) girdileri ve çıktıları günlüğe kaydedebilirsiniz. Bir şeyler bozulduğunda, karmaşık bir düşünce zincirini ayıklamak zorunda kalmadan hangi dalın başarısız olduğunu bilirsiniz. Gözlemlenebilirlik basittir çünkü sistem sizi bir sapma ile şaşırtmaz. Eğer iş süreciniz net kurallara ve bilinen istisnalara sahipse, genellikle bir iş akışı kazanır. Makinenin niyetleri varmış gibi davranmadan hız, güvenilirlik ve daha düşük maliyet elde edersiniz.
Ajanlar Rotayı Seçer
Ajanlar farklıdır. Dinamiktirler. Onlara bir hedef verirsiniz ve onlar buna nasıl ulaşacaklarını bulurlar. Bir ajan bir görev alır, ne yapılması gerektiğini analiz eder, araçları seçer, uygular, sonucu gözlemler ve ardından bir sonraki adımın ne olacağına karar verir. Bu döngü —akıl yürüt, eyleme geç, gözlemle, tekrar akıl yürüt— bir ajanı diğer tüm kategorilerden ayıran şeydir.
İade taleplerini yöneten bir sistemi düşünün. Bir iş akışı üç koşulu kontrol edebilir ve sabit kurallara göre onay verebilir veya reddedebilir. "Bu iadeyi dolandırıcılık kontrolü yaparak adil bir şekilde gerçekleştir" hedefi verilen bir ajan; müşterinin satın alma geçmişini sorgulayabilir, o ürün kategorisi için iade politikasını kontrol edebilir, son hesap hareketlerine bakabilir, örüntü olağandışı görünüyorsa manuel inceleme için bir destek bileti oluşturabilir ve ardından kararını açıklayan bir e-posta taslağı hazırlayabilir. Hangi araçları hangi sırayla kullanacağını vakanın detaylarına göre kendisi seçmiştir.
Bir Ajan Sadece Bir Model Değil, Bir Sistemdir
Bir ajan, bir sohbet penceresinde çalışan bir model değildir. O, bütünsel bir sistemdir. Şunları birleştirir:
- Modeller: Muhakeme yapmak ve dil üretmek için
- Talimatlar: Çalışma alanını kısıtlayan talimatlar
- Araçlar: Dış dünya ile etkileşim kurmak için katı şemalara sahip araçlar
- Bağlam: Mevcut görev ve ortam hakkında bağlam
- Durum (State): Çok adımlı bir süreçte nerede olduğunu hatırlamasını sağlayan durum bilgisi
- Doğrulamalar: Girdileri bir araca girmeden önce ve çıktıları kullanıcıya ulaşmadan önce kontrol eden doğrulamalar
- Sınırlar: Kontrolsüz davranışları önlemek için bütçe, adım veya kapsam üzerindeki sınırlar
- Gözlemlenebilirlik: Neden B yolu yerine A yolunu seçtiğini yeniden kurgulayabilmeniz için gözlemlenebilirlik
Eğer sisteminiz bunlardan çoğuna sahip değilse, bir ajanınız yok demektir. Sadece fazladan API çağrıları yapan bir modeliniz var.
Kontrol Olmadan Otonomi Sadece Risktir
Eğer ajanınız üretim veritabanınıza sorgu atabiliyor, CRM'inizde kayıtlar oluşturabiliyor veya kullanıcılara mesaj gönderebiliyorsa; aynı zamanda verileri bozabilir, mükerrer kayıtlar oluşturabilir veya müşterilere spam gönderebilir. İyi bir ajan mimarisi hata payını hesaba katar. Yıkıcı eylemlerden önce izin ister. Sonuçları onaylamadan önce doğrulamalar çalıştırır. Maliyetlerin veya risklerin yüksek olduğu durumlarda bir insanın müdahale edebilmesi için muhakeme sürecini açıkça sunar.
Eğer demo heyecan verici göründüğü için bu sınırları atlayıp geçerseniz, hafta sonlarınızı ajanın neden bir gecede dört yüz destek talebi oluşturduğunu veya dokunmaması gereken bir siparişi neden iade ettiğini hata ayıklayarak (debugging) geçirmek zorunda kalırsınız. Kara kutu (black-box) sistemlerde korktuğunuz öngörülemezlik, yapay zekaya hem bir hedef hem de denetimsiz bir araç seti teslim ettiğiniz anda gerçeğe dönüşür.
Teknolojiyle Değil, Problemle Başlayın
Ajanla başlamayın. Acıyla (sorunla) başlayın. Bazen çözüm daha iyi bir istemdir (prompt). Bazen mevcut backend'inizdeki deterministik bir fonksiyondur. Bazen de bir AI adımı ve beş geleneksel API çağrısından oluşan bir iş akışıdır (workflow).
Yalnızca görev gerçekten şunları gerektirdiğinde ajanlara başvurun:
- Birbirine bağlı birden fazla adım
- Bu adımlar arasında dinamik karar verme
- Harici araçlarla etkileşim
- Önceden tam olarak haritalandıramayacağınız ara sonuçlar üzerinde muhakeme yapma
Eğer yol belliyse, bir iş akışı (workflow) oluşturun. Eğer etkileşim basitse, bir chatbot veya asistan oluşturun. Sırf kelime kulağa modern geldiği için ajans (agency) yetisi eklemeyin.
Karmaşıklık Değil, Olgunluk İnşa Edin
Bir ajan gerçekten doğru çözüm olduğunda, onu katmanlar halinde inşa edin. Tek bir araç ve sabit kodlanmış (hardcoded) bir kararla başlayın. Aracın doğru argümanlarla çağrıldığını doğrulayan testler ekleyin. Tüm izleme sürecini (trace) görebilmek için günlükleme (logging) ekleyin. Sistemin nerede kaldığını bilmesi için durum yönetimi (state management) ekleyin. Her sınırda doğrulamalar ekleyin. Ekibinizin davranışı gerçek zamanlı olarak izleyebilmesi için gözlemlenebilirlik panelleri (observability dashboards) ekleyin. Son olarak, seçenekler arasında seçim yapma özgürlüğü olan otonomiyi dikkatlice ekleyin. Bunu tersine yapmayın. Kaosun üzerine inşa edilen otonomi, pahalı kazalara yol açar.
Asıl Çıkarılması Gereken Ders
Kelimeler sistemleri şekillendirir. "Ajan" terimini, bunu hak eden mimariler için saklayın: hedef odaklı, araç kullanan ve dinamik olarak uyum sağlayan, ancak katı sınırlar ve insan denetimiyle çevrelenmiş yapılar. Geri kalan her şey bir chatbot, bir asistan veya bir iş akışıdır. Problemi çözen en basit şeyi inşa edin. Üretim günlükleriniz, finans ekibiniz ve gelecekteki haliniz size teşekkür edecek.
Kaynak: https://dev.to/leandrolayerle/no-todo-chatbot-es-un-agente-de-ia-3oec
GyaanSetu öğrenme topluluğuna katılın: https://t.me/GyaanSetuAi