AI Ajanlarının Devre Kesicilere (Circuit Breakers) İhtiyacı Var
İnsanlar yapay zeka muhakemesi, planlaması ve hafızasından bahsediyor.
Bir ajan başarısız olduğunda neler yaşandığından nadiren bahsediyorlar.
Bunu otonom iş akışlarını test ederken fark ettim. Ajan çökmedi. Hata göstermedi.
Sadece daha fazla çabaladı.
Bir araç çağrısı başarısız oldu. Ajan tekrar denedi. O da başarısız oldu. Yeni bir plan yaptı. Daha fazla araç çağırdı. Bir sarmala girip durdu.
Dışarıdan üretken görünüyordu. İçeride ise bir döngüye sıkışıp kalmıştı.
Dağıtık sistemlerde mühendisler devre kesiciler (circuit breakers) kullanır. Eğer bir servis hata verirse, istek göndermeyi durdurursunuz. Sistemin geri kalanını korumuş olursunuz.
AI ajanlarının da buna ihtiyacı var.
Otonom bir ajan API'leri çağırır, kod dağıtır (deploy eder) ve token harcar. Koruyucu bariyerler (guardrails) olmadan, küçük bir hata maliyetli hale gelir.
Bir uygulamanın dağıtımını yapan bir ajan hayal edin. Dağıtım başarısız olur. Ajan tekrar dener. Yine başarısız olur. Bir ayarı değiştirir ve tekrar dener. Her eylem hatayı daha da kötüleştirir.
Sorun model değil. Sınırları olmayan zeka öngörülemezdir.
Bir devre kesici bu sınırları oluşturur. Şunları yapabilir:
- Çok fazla başarısız denemeden sonra yürütmeyi durdurabilir.
- Maliyetler bir limite ulaştığında iş akışını duraklatabilir.
- Canlı ortama (production) müdahale etmeden önce insan onayı isteyebilir.
- Siz onaylayana kadar tehlikeli eylemleri engelleyebilir.
Devre kesiciler otonomiyi azaltmaz. Güven inşa ederler.
Ajanlara nasıl davranacaklarını öğretmek için zaman harcıyoruz. Onlara ne zaman duracaklarını öğretmek için de zaman harcamalıyız.
Canlı ortamda, ne zaman duracağını bilmek, bir sonraki adımda ne yapacağını bilmekten daha önemlidir.
Kaynak: https://dev.to/mukeshkuiry/the-day-i-realized-ai-agents-need-circuit-breakers-22hj
İsteğe bağlı öğrenme topluluğu: https://t.me/GyaanSetuAi