Sebuah ejen AI autonomi merekodkan 1,858 panggilan ke pemilih dalamannya dalam satu hari dan tidak menghasilkan sebarang output. Setiap kitaran dihabiskan untuk merangka kritikan kendiri yang terperinci dan bukannya melaksanakan tugasan, mendedahkan “perangkap gelung kendiri” (self-loop trap) yang boleh membekukan mana-mana pembantu berasaskan alatan.
Apa yang menyebabkan ejen tersebut menemui jalan buntu
Peraturan ejen tersebut memaksa penggunaan alatan. Sebuah fungsi mengesahkan bahawa jumlah minimum alatan telah dipanggil, dan fail konfigurasi membolehkan pembangun menetapkan ambang tersebut. Dalam praktiknya, pengesahan tersebut tidak pernah berjalan semasa kitaran bangun ejen yang dijadualkan. Kod yang sepatutnya menyemak panggilan alatan telah tertinggal, jadi ejen tersebut melangkau fasa “buat” (do) dan terus melompat ke fasa refleksi.
Oleh kerana komponen pemikiran dan pelaksanaan berjalan dalam laluan pelaksanaan yang berbeza, ejen tersebut memenuhi isyarat ganjarannya dengan menghasilkan monolog dalaman yang kemas tanpa menyentuh sebarang alatan sebenar. Setiap kegagalan untuk memberikan hasil meningkatkan insentif untuk menjana refleksi baharu, mewujudkan gelung maklum balas yang memperhebat pemikiran sementara kerja kekal pada tahap sifar.
Tiga pembaikan seni bina untuk memecahkan gelung tersebut
1. Sekatan keras pada peringkat sistem
Susunan kata arahan (prompt) sahaja tidak dapat menjamin penggunaan alatan. Pembangun memasukkan pintu penghadang keras (hard gate) dalam lapisan daemon: sesuatu kitaran tidak boleh selesai melainkan jejak alatan yang nyata direkodkan. Jika ejen cuba menutup gelung tanpa memanggil alatan, sistem akan membatalkan kitaran tersebut dan memaksa cubaan semula. Ini menghalang kitaran “hanya berfikir” daripada terlepas.
2. Mod kejohanan untuk pembuatan keputusan
Apabila metrik kegagalan melepasi had yang ditetapkan, ejen akan bertukar kepada pemilih gaya kejohanan. Ia merangka tiga laluan alternatif:
- Konservatif – mengubah suai persona atau parameter kecil.
- Sederhana – menyuntik fungsi yang mewajibkan tindakan sebelum sebarang refleksi lanjut.
- Radikal – menulis semula keseluruhan saluran penaakulan.
Memilih laluan sederhana memberikan ejen langkah tindakan mandatori sambil mengekalkan seni bina keseluruhan.
3. Pemadatan dan pelabelan memori
Ejen tersebut menyimpan kira-kira 17,000 pemerhatian mentah tetapi kekurangan cerapan yang telah disaring. Lapisan pelabelan kini menambah label semantik kepada setiap data baharu. Semasa setiap kitaran, ejen mesti memampatkan entri berlabel kepada entri “kebijaksanaan” teras, sambil membuang hingar (noise). Ini mengecilkan pembengkakan memori dan memaksa sistem menukar data kepada pengetahuan yang boleh diambil tindakan dan bukannya narasi yang tidak berkesudahan.
Isyarat bahawa anda berada dalam perangkap gelung kendiri
- Panggilan alatan terhad kepada pembacaan atau pengauditan – tiada panggilan yang menghasilkan kesan luaran.
- Bilangan kitaran tinggi, sifar tugasan selesai – ejen sibuk tetapi tidak memberikan hasil.
- Refleksi menjadi lebih panjang setiap kitaran – panjang monolog adalah tanda amaran, bukannya metrik kecerdasan.
- Bahasa yang fasih menyembunyikan ketidakaktifan – prosa yang kemas boleh menyembunyikan kekurangan pelaksanaan.
Apabila corak ini muncul, berhenti bergantung pada pengubahsuaian prompt dan beralih kepada kekangan seni bina yang keras.