AI Ajanlarının Daha Fazla Hafızaya İhtiyacı Yok. Yönetilen Geri Çağırmaya İhtiyaçları Var.

Çoğu insan AI ajanlarının daha iyi çalışması için daha fazla hafızaya ihtiyaç duyduğunu düşünüyor. Daha fazla sohbet geçmişi öneriyorlar. Daha geniş bağlam pencereleri (context windows) öneriyorlar. Daha fazla vektör depolama öneriyorlar.

Ancak daha fazla hafıza, ajanları genellikle daha az güvenilir hale getirir. Ajan, güncelliğini yitirmiş varsayımlar kullanmaya başlar. Eski bağlamı güncel gerçekler gibi ele alır. Kullanıcı tercihlerini somut kanıtlarla karıştırır.

Sorun, bir ajanın ne kadar hatırladığı değildir. Sorun, bir ajanın neleri geri çağırmasına izin verildiğine karar vermektir.

Bu bir zeka problemi değil, bir sistem mühendisliği problemidir.

Bilgi getirme (Retrieval), yönetişim (governance) değildir. Bir getirme sistemi, bir sorguya benzeyen bilgileri bulur. Yönetilen bir geri çağırma sistemi, o bilginin kullanılmasının güvenli olup olmadığına karar verir.

İyi bir geri çağırma politikası şu soruları sorar:

  • Bu bilgi hâlâ güncel mi?
  • Bunu kimlerin görmesine izin var?
  • Yeni kanıtlar bu eski verileri geçersiz kılıyor mu?
  • Bu bilginin kaynağı nedir?

Her hafıza aynı otoriteye sahip değildir. Bir araç sonucu bir gerçektir. Bir model özeti bir varsayımdır. Bir kullanıcı tercihi bir rehberdir.

Tüm bunları bir isteme (prompt) eşit gerçekler olarak koyarsanız, ajan başarısız olacaktır. Sistem, kanıtlar ile iddialar arasında ayrım yapmalıdır. Çalışma zamanı (runtime) kanıtları, model varsayımlarından her zaman üstün gelmelidir.

Hafızanın ayrıca kapsam ve köken (provenance) bilgisine de ihtiyacı vardır. Bir ajan, şirketinizdeki her veri parçasını görmemelidir. Hafızanın roller, görevler ve izinlere dayalı sınırlara ihtiyacı vardır. Ayrıca hafızanın nereden geldiğini de bilmeniz gerekir. Bir insan yorumu, bir modelin tahmininden daha fazla ağırlık taşır.

Ajanlara daha büyük beyinler vermeye çalışmayı bırakın. Neleri geri çağırabileceklerine dair daha iyi kurallar oluşturmaya başlayın. Çalışma zamanı, bağlam modele ulaşmadan önce onu düzenlemelidir.

Asıl soru, bir ajanın ne kadar hatırlayabildiği değildir. Asıl soru, ajanın geri çağırdığı şeye güvenip güvenemeyeceğinizdir.

Source: https://dev.to/glendel/ai-agents-dont-need-more-memory-they-need-governed-recall-3p73

Optional learning community: https://t.me/GyaanSetuAi