Konfabülasyon Şelalesi
Yapay zeka ajanım bir döngüye girdi.
Sahte bir sütun adıyla bir SQL sorgusu yazıyordu. Veritabanı bir hata döndürüyordu. Hata mesajı gerçek sütun listesini içeriyordu. Ajan düzeltmeyi okuyordu. Sonra, tam olarak aynı yanlış sütun adını tekrar yazıyordu.
Ben buna konfabülasyon şelalesi diyorum.
Bu bir model problemi değil. Bir araç tasarım problemi.
Döngünün işleyişi şöyledir:
- Ajan, eğitimine dayanarak bir sorgu oluşturur.
- Sorgu başarısız olur.
- Hata mesajı gerçeği sunar.
- Ajan gerçeği görür ama bunun yerine kendi içsel eğitimine güvenir.
- Ajan hatayı tekrarlar.
Ajan iki sinyalle karşı karşıya kalır. Bir sinyal hata mesajıdır. Diğer sinyal ise modelin eğitimidir. Eğitim genellikle daha güçlüdür. Hata mesajı sadece bir kez görünür. Eğitim ise modelin yazdığı her bir kelimeyle birlikte ortaya çıkar.
Bunu prompt mühendisliği ile düzeltmeyi denedim. Modele hatalara dikkat etmesini söyledim. İşe yaramadı.
Asıl sorun, ajanımın sadece hata yaparak öğrenebilmesiydi. Hareket etmeden önce tablo yapısını kontrol etme yolu yoktu. Tahmin etmek zorundaydı.
Bir insana bir API verdiğinizde, ona dokümantasyon da verirsiniz. Hata mesajları ona şemayı öğretene kadar hatalı istekler göndermesini beklemezsiniz.
Bunu proaktif bir araç geliştirerek çözdüm. Ajan artık bir hata beklemek yerine önce describe_table aracını çağırıyor.
Yeni iş akışı:
- Ajan bir tabloyu sorgulamak istiyor.
- Ajan gerçek sütunları görmek için
describe_tablearacını çağırıyor. - Ajan doğru isimleri ve türleri alıyor.
- Ajan ilk denemede doğru sorguyu yazıyor.
Döngü durdu. Model daha akıllı hale gelmedi. Ajan sadece tahmin yürütmeyi bıraktı.
Eğer ajanlarınız veritabanları veya API'ler kullanıyorsa şunu sorun: Hareket etmeden önce yapıyı doğrulayabiliyorlar mı? Yoksa sadece hata yaparak mı öğreniyorlar?
Reaktif hata ipuçları iyidir. Ancak yeterli değildir. Sadece başarısızlık yoluyla öğrenen bir ajan, her zaman bir halüsinasyona bir adım uzaklıktadır.
Ajanların hata yapmadan önce soru sormasına olanak tanıyan araçlar inşa edin.
İsteğe bağlı öğrenme topluluğu: https://t.me/GyaanSetuAi