Yapay Zeka Ajanları Karmaşık Mimari Nedeniyle Başarısız Oluyor
Yapay Zeka Ajanları genellikle güçlü görünür ancak kırılgan kalırlar.
On iki saat önce, yetenek sistemim şöyle görünüyordu:
- 3 farklı dizine bölünmüş 34 yetenek.
- 28 yetenek hareket ettiğini iddia ediyordu ancak sadece 2'si gerçekten hareket etti.
- İki yönetim sistemi birbiriyle iletişim kuramadı.
- Bir araç, kimsenin haberi olmadan bir yetenekteki 100 satır kodu sildi.
Çoğu insan Büyük Dil Modeli'ni över. Gücün model olduğunu düşünürler. Oysa model sadece beyindir. Çalışan bir Ajanın dört şeye ihtiyacı vardır:
- Bellek
- Yetenekler
- Kancalar
- Eklentiler
Eğer bir parça başarısız olursa, Ajan da başarısız olur. Benim hatam bir hata (bug) değildi. Parçalanmaydı. Kopuk yollarım ve eksik bağlantılarım vardı.
Yapay zeka geliştirmedeki tehlike, bir plan yapmadan araçları hemen kullanmaktır. Zaman kazanmak için Firecrawl, Crawl4ai ve çeşitli MCP sunucuları eklersiniz. Ancak 115 üçüncü taraf yeteneğiniz olduğunda üç şey gerçekleşir:
- İsim çakışmaları: Aynı isme sahip iki yetenek sistemi çökertir.
- Ortam kirliliği: Bir yetenek, bir diğerinin ortamını bozar.
- Bozuk güncellemeler: Bir API güncellemesi zincirinizi sessizce bozar.
Bu, mimari entropidir. Sistemler büyüdükçe takip edilmeleri zorlaşır.
Bir projeyi düzenlemek için stabilize olmasını beklemeyin. Bu bir tuzaktır. Sistemimi düzeltmek için 12 saat harcadım:
- Dağınık dizinleri iki temiz yolda birleştirdim.
- Kazara silmeleri tespit etmek için bir kontrol mekanizması ekledim.
- Herhangi bir sistem değişikliğinden sonra oluşturucuyu bilgilendirmek için bir kural oluşturdum.
- Eski, gereksiz dosyaları sildim.
Bu yeni bir özellik geliştirme süreci değildi. Bu, mimari hijyendi. Hijyen, bileşik bir yatırımdır. Sadece bir bakım maliyeti değildir.
Eğer Yapay Zeka Ajanları inşa ediyorsanız, şu kuralı izleyin: Bellek ve yetenekler için kurallarınızı ilk günden belirleyin.
Bu soruları erkenden sorun:
- Bellek nereye gider?
- Versiyonları nasıl yönetirsiniz?
- İsim çakışmalarını önlemek için yetenekler nerede bulunur?
- Eklentiler arasındaki bağımlılıkları kim kaydeder?
- Düzenli denetimleri kim yapar?
Cevaplar, Ajanınızın ne kadar büyüyebileceğine karar verir. Yapay zeka için darboğaz parametre sayısı değildir. Dağınık bir evdir.
İsteğe bağlı öğrenme topluluğu: https://t.me/GyaanSetuAi