Berapakah Tahap Autonomi yang Patut Dimiliki oleh Ejen AI Anda?

Orang ramai sering memberi tumpuan kepada menjadikan ejen AI lebih autonomi. Mereka mahukan lebih banyak penaakulan dan lebih banyak perancangan. Mereka mahukan lebih banyak kebebasan.

Ini kedengaran seperti kemajuan. Namun, lebih banyak autonomi tidak selalunya merupakan jawapannya.

Jurutera perisian tidak sentiasa membina untuk mendapatkan lebih banyak. Anda tidak menggunakan mikroservis semata-mata kerana ia popular. Anda memilih seni bina yang mengimbangi keupayaan dan kerumitan.

Peraturan yang sama terpakai kepada AI. Jangan tanya sejauh mana autonomi yang boleh dimiliki oleh sesebuah ejen. Tanya sejauh mana ia sepatutnya autonomi.

Autonomi adalah satu keputusan reka bentuk. Setiap kali anda membiarkan ejen membuat keputusan, anda meningkatkan tanggungjawabnya. Ini membawa manfaat, tetapi ia juga membawa cabaran kejuruteraan.

Autonomi yang tinggi membantu ejen menyesuaikan diri dengan situasi baharu. Ia bekerja ke arah matlamat tanpa bimbingan berterusan. Walau bagaimanapun, ia juga menjadikan ejen lebih sukar untuk diramal, dinyahpepijat, dan dipercayai.

Autonomi tidak datang secara percuma.

Anggaplah autonomi sebagai satu spektrum. • Di satu hujung, sistem hanya menjana respons. • Di hujung yang lain, ejen merancang langkah dan bertindak dengan bantuan manusia yang minimum.

Setiap langkah ke atas spektrum ini meningkatkan keupayaan dan kerumitan. Matlamat anda bukanlah untuk mencapai tahap tertinggi. Matlamat anda adalah untuk berhenti pada tahap yang diperlukan oleh masalah anda.

Pertimbangkan seorang pembantu HR. Ia menjawab soalan tentang polisi. Memberinya kuasa untuk mengubah rekod pekerja menambah risiko tanpa menambah nilai.

Sekarang pertimbangkan ejen operasi. Ia menyiasat ralat pengeluaran. Ia perlu menyemak log dan melakukan pertanyaan pada sistem. Aliran kerja yang kaku mengehadkan ejen ini. Di sini, autonomi menambah baik penyelesaian tersebut.

Perbezaannya terletak pada masalah, bukan pada teknologi.

Banyak sistem yang berjaya menggunakan autonomi terhad (bounded autonomy). Ini bermakna ejen beroperasi dalam had yang ketat.

  • Hadkan akses alatan.
  • Hadkan skop tugasan.
  • Perlukan kelulusan untuk tindakan berimpak tinggi.
  • Tetapkan had perbelanjaan.
  • Tentukan bila perlu berhenti dan bertanya kepada manusia.

Kekangan menjadikan ejen lebih mudah diramal dan boleh dipercayai.

Sebelum anda meningkatkan autonomi, tanya soalan-soalan ini:

  • Bolehkah aliran kerja menyelesaikan ini?
  • Adakah langkah seterusnya bergantung pada maklumat yang tidak diketahui?
  • Apa yang berlaku jika ejen gagal?
  • Bolehkah anda memisahkan tindakan berisiko daripada penaakulan berisiko rendah?
  • Adakah autonomi terhad akan berkesan?

Jurutera terbaik tidak memaksimumkan autonomi. Mereka memutuskan dengan tepat di mana ia bermula dan di mana ia berakhir. Seni bina yang baik adalah tentang melakukan apa yang benar-benar perlu sahaja.

Sumber: https://dev.to/rohith_kn/how-much-autonomy-should-your-ai-agent-have-4h4n

Komuniti pembelajaran pilihan: https://t.me/GyaanSetuAi