𝗧𝗵𝗲 𝗥𝘂𝗹𝗲 𝗛𝗶𝗲𝗿𝗮𝗿𝗰𝗵𝘆 𝗧𝗿𝗮𝗽

Terminal anda penuh dengan ralat merah. Tiga ejen AI sedang berjalan dalam persekitaran produksi (production). Tiada satu pun daripadanya bersetuju tentang apa maksud pengesahan pengguna. Pepijat selama 20 minit bertukar menjadi pencarian selama 3 hari melalui rantaian peraturan.

Inilah realiti pengurusan ejen AI pada tahun 2026.

Apabila anda menskalakan sistem AI, set peraturan berlapis-lapis seperti mendapan. Anda bermula dengan peraturan yang jelas. Kemudian keperluan berubah. Kemudian kes terpinggir (edge cases) muncul. Tidak lama kemudian, anda menyelenggara rantaian peraturan yang kelihatan seperti undang-undang zaman pertengahan. Anda tidak dapat mengesan mengapa ejen membuat sesuatu keputusan.

Ini mewujudkan Ketelusan Peraturan Berperingkat (Cascading Rule Opacity). Keputusan menjadi betul mengikut peraturan tetapi mustahil untuk dijelaskan oleh manusia.

Di Jepun, pembangun memanggil ini sebagai rule precedence hell. Ia bukan bermaksud peraturan itu salah. Ia adalah kerana untuk memahami satu peraturan, anda perlu mengingati keseluruhan rantaian tersebut di dalam kepala anda. Beban kognitif ini melambatkan pasukan anda.

Analisis terbaharu di Qiita mencadangkan rangka kerja tiga peringkat untuk menguruskan perkara ini:

  • Peraturan Asas (Foundational Rules): Tidak boleh diubah (immutable) dan mempunyai versi.
  • Peraturan Kontekstual (Contextual Rules): Adaptasi khusus domain.
  • Resolusi Waktu-Larian (Runtime Resolution): Penilaian dinamik dengan log yang jelas.

Struktur ini membantu, tetapi ia mempunyai kos manusia yang tinggi. Saya melihat sebuah pasukan menghabiskan 30% masa kejuruteraan mereka hanya untuk menyelenggara peraturan dan bukannya membina ciri-ciri baharu. Bagi setiap jam yang anda jimatkan dengan menambah meta-peraturan, anda akan membayar 4 jam penyelenggaraan kemudian hari.

Masalah sebenar bukanlah pelapisan tersebut. Masalahnya ialah pasukan menambah peraturan dan bukannya menambah pertimbangan (judgment).

Meta-corak (Meta-patterns) selalunya merupakan jalan penyelesaian sementara untuk model ejen yang lemah. Daripada membina ejen yang dapat mengendalikan kekaburan, kita membina rantaian peraturan yang besar untuk memaksa pematuhan.

Untuk mengelakkan perangkap ini, ikuti langkah-langkah berikut:

  • Audit rantaian peraturan anda setiap suku tahun. Jika peraturan berkembang lebih cepat daripada ciri-ciri, anda mempunyai hutang teknikal (technical debt).
  • Cipta budaya "rule kill". Setiap peraturan baharu harus menggantikan peraturan lama.
  • Log resolusi peraturan. Jika anda tidak dapat mengesan peraturan mana yang membuat keputusan, anda tidak dapat menyahpepijatnya (debug).
  • Labur dalam pertimbangan ejen. Pasukan yang berjaya akan menggunakan ejen yang memerlukan lebih sedikit peraturan untuk bertindak dengan betul.

Anggap pengurusan peraturan sebagai perancah (scaffolding) sementara. Jangan biarkan ia menjadi infrastruktur kekal anda.

Apakah pengalaman anda dalam mengesan keputusan ejen AI? Adakah senarai peraturan anda berkembang terlalu cepat untuk diuruskan?

Source: https://qiita.com/shatolin/items/5c18619d3474b7962021

Optional learning community: https://t.me/GyaanSetuAi