Seberapa Besar Otonomi yang Harus Dimiliki Agen AI Anda?

Orang sering kali berfokus pada pembuatan agen AI yang lebih otonom. Mereka menginginkan penalaran yang lebih baik dan perencanaan yang lebih matang. Mereka menginginkan kemandirian yang lebih besar.

Ini terdengar seperti sebuah kemajuan. Namun, otonomi yang lebih besar tidak selalu menjadi jawabannya.

Insinyur perangkat lunak tidak selalu membangun untuk sesuatu yang "lebih". Anda tidak menggunakan microservices hanya karena mereka populer. Anda memilih arsitektur yang menyeimbangkan kapabilitas dan kompleksitas.

Aturan yang sama berlaku untuk AI. Jangan bertanya seberapa otonom sebuah agen bisa menjadi. Bertanyalah seberapa otonom ia seharusnya menjadi.

Otonomi adalah sebuah keputusan desain. Setiap kali Anda membiarkan agen membuat keputusan, Anda meningkatkan tanggung jawabnya. Hal ini membawa manfaat, tetapi juga mendatangkan tantangan rekayasa.

Otonomi tinggi membantu agen beradaptasi dengan situasi baru. Ia bekerja menuju suatu tujuan tanpa panduan terus-menerus. Namun, hal ini juga membuat agen lebih sulit untuk diprediksi, di-debug, dan dipercaya.

Otonomi tidaklah gratis.

Anggaplah otonomi sebagai sebuah spektrum. • Di satu ujung, sistem hanya menghasilkan respons. • Di ujung lainnya, agen merencanakan langkah-langkah dan bertindak dengan bantuan manusia yang minimal.

Setiap langkah naik dalam spektrum ini meningkatkan kapabilitas dan kompleksitas. Tujuan Anda bukanlah untuk mencapai puncak. Tujuan Anda adalah berhenti pada tingkat yang dibutuhkan oleh masalah Anda.

Pertimbangkan seorang asisten HR. Ia menjawab pertanyaan tentang kebijakan. Memberinya wewenang untuk mengubah catatan karyawan menambah risiko tanpa menambah nilai.

Sekarang pertimbangkan agen operasional. Ia menyelidiki kesalahan produksi. Ia perlu memeriksa log dan melakukan query pada sistem. Alur kerja yang kaku akan membatasi agen ini. Di sini, otonomi justru meningkatkan solusi.

Perbedaannya terletak pada masalahnya, bukan teknologinya.

Banyak sistem yang sukses menggunakan otonomi terbatas (bounded autonomy). Ini berarti agen beroperasi dalam batasan yang ketat.

  • Batasi akses alat.
  • Batasi cakupan tugas.
  • Perlukan persetujuan untuk tindakan berdampak tinggi.
  • Tetapkan batas pengeluaran.
  • Tentukan kapan harus berhenti dan bertanya kepada manusia.

Batasan membuat agen menjadi dapat diprediksi dan andal.

Sebelum Anda meningkatkan otonomi, ajukan pertanyaan-pertanyaan ini:

  • Bisakah alur kerja menyelesaikan ini?
  • Apakah langkah selanjutnya bergantung pada informasi yang tidak diketahui?
  • Apa yang terjadi jika agen gagal?
  • Bisakah Anda memisahkan tindakan berisiko dari penalaran berisiko rendah?
  • Apakah otonomi terbatas akan berhasil?

Insinyur terbaik tidak memaksimalkan otonomi. Mereka memutuskan dengan tepat di mana otonomi dimulai dan di mana ia berakhir. Arsitektur yang baik adalah tentang melakukan tepat apa yang diperlukan.

Sumber: https://dev.to/rohith_kn/how-much-autonomy-should-your-ai-agent-have-4h4n

Komunitas belajar opsional: https://t.me/GyaanSetuAi