Berapakah Tahap Autonomi yang Patut Dimiliki oleh Ejen AI Anda?

Orang ramai membincangkan tentang AI Agentik sebagai satu perlumbaan untuk mendapatkan lebih banyak autonomi.

Mereka mahukan lebih banyak alatan. Lebih banyak penaakulan. Lebih banyak kebebasan.

Jurutera perisian tidak bekerja dengan cara begini. Kami tidak membina mikroservis semata-mata kerana ia popular. Kami membina sistem yang mengimbangi keupayaan dengan kerumitan.

Ejen AI memerlukan pendekatan yang sama.

Persoalannya bukan sejauh mana autonomi yang boleh dimiliki oleh sesebuah ejen. Persoalannya ialah sejauh mana autonomi yang sepatutnya dimiliki oleh sesebuah ejen.

Autonomi adalah satu keputusan reka bentuk. Setiap kali ejen membuat keputusan, anda meningkatkan tanggungjawabnya.

Autonomi yang tinggi membantu ejen menyesuaikan diri dengan situasi baharu. Ia membantu ejen mencapai matlamat tanpa bimbingan berterusan.

Tetapi autonomi yang tinggi menjadikan ejen lebih sukar untuk diramal dan dinyahpepijat (debug). Ia menjadikannya lebih sukar untuk dipercayai.

Autonomi adalah satu spektrum.

  • Autonomi rendah: Sistem yang hanya menjana teks.
  • Autonomi sederhana: Sistem yang mencadangkan tindakan dan menggunakan alatan.
  • Autonomi tinggi: Sistem yang memutuskan cara untuk mencapai matlamat dengan sedikit bantuan manusia.

Setiap langkah meningkatkan keupayaan dan kerumitan. Anda harus berhenti pada tahap yang diperlukan oleh masalah anda.

Pertimbangkan seorang pembantu HR. Ia menjawab soalan polisi. Memberinya akses untuk mengubah rekod pekerja menambah risiko tanpa memberi banyak nilai.

Sekarang pertimbangkan ejen operasi. Ia menyiasat insiden produksi. Ia mesti menyemak log dan mencari dokumentasi. Ia perlu menyesuaikan carian berdasarkan apa yang ditemuinya. Aliran kerja tetap akan gagal di sini. Autonomi yang lebih besar menambah baik penyelesaian ini.

Masalah tersebut menentukan tahap autonomi.

Sistem produksi yang berjaya selalunya dihadkan secara sengaja. Ini dipanggil autonomi terhad (bounded autonomy). Anda menetapkan had untuk memastikan sistem kekal boleh dipercayai.

Contoh had:

  • Menghadkan akses alatan
  • Menghadkan skop tugasan
  • Memerlukan kelulusan manusia untuk tindakan besar
  • Menetapkan had perbelanjaan
  • Menentukan bila perlu eskalasi kepada manusia

Kekangan ini menjadikan ejen anda lebih mudah diramal.

Sebelum anda memberikan lebih banyak autonomi, tanya soalan-soalan ini:

  • Bolehkah aliran kerja tetap menyelesaikan ini?
  • Adakah langkah seterusnya bergantung pada maklumat yang tidak diketahui?
  • Apa yang berlaku jika ejen gagal?
  • Bolehkah anda memisahkan tindakan berisiko daripada penaakulan berisiko rendah?

Jurutera terbaik tidak memaksimumkan autonomi. Mereka memutuskan dengan tepat di mana ia bermula dan di mana ia berakhir.

Seni bina yang baik adalah tentang melakukan apa yang perlu dan tidak lebih daripada itu.

Sumber: https://dev.to/rohith_kn/how-much-autonomy-should-your-ai-agent-have-4h4n