Keupayaan, Kebenaran, dan Pintu Kelulusan dalam Pasukan Pembangun AI

Banyak alatan AI menawarkan jalan pintas.

Anda menyambungkan satu alatan atau integrasi. Antara muka menyatakan bahawa ejen kini boleh bekerja dengan fail, tugasan, atau arahan.

Bagi pasukan yang serius, ini tidak mencukupi.

Kebolehan teknikal tidak sama dengan kebenaran. Sesuatu tindakan mungkin boleh dilakukan tetapi masih memerlukan keputusan manusia.

NexFlow memisahkan ketiga-tiga lapisan ini:

• Keupayaan: Apakah yang boleh dilakukan oleh seorang aktor secara teknikal? • Kebenaran: Adakah subjek tertentu dibenarkan menggunakan keupayaan tersebut? • Pintu Kelulusan: Adakah tindakan tersebut memerlukan manusia untuk berkata ya terlebih dahulu?

Kekeliruan antara istilah-istilah ini membawa kepada risiko keselamatan.

Kemahiran menerangkan peranan, seperti penulisan dokumentasi. Keupayaan menerangkan tindakan, seperti create_pull_request. Kebenaran adalah satu polisi, seperti benarkan atau tolak. Pintu kelulusan adalah seorang individu atau sistem yang mesti meluluskan tindakan yang dihadkan.

Seorang ejen mungkin mempunyai kemahiran untuk menyemak kod. Satu integrasi mungkin menawarkan keupayaan untuk mencipta pull request. Namun, kebenaran tetap perlu menentukan sama ada ejen khusus tersebut boleh menggunakan alatan itu. Pintu kelulusan kemudiannya menentukan sama ada manusia perlu menyemaknya.

Perbezaan ini melindungi projek anda. Ia menghentikan masalah "alatan tersambung" di mana ejen mendapat lebih banyak kuasa daripada yang anda rancangkan.

NexFlow menggunakan model keselamatan yang konservatif:

  • Semak jika aktor mempunyai keupayaan yang diisytiharkan.
  • Cari peraturan kebenaran.
  • Penolakan eksplisit adalah peraturan yang paling kuat.
  • Status approval_required menyekat tindakan sehingga manusia meluluskannya.
  • Kebenaran allow hanya berfungsi dalam skop yang ditetapkan.
  • Jika tiada kebenaran wujud, tolak tindakan tersebut.

Ini bukan birokrasi. Ia menjadikan risiko lebih nyata. Anda boleh menyemak polisi anda sebelum anda menjalankan sebarang ejen.

Anda boleh melihat:

  • Keupayaan berisiko mana yang wujud.
  • Siapa yang boleh membaca repositori anda.
  • Siapa yang boleh menulis fail.
  • Di mana manusia mesti menghentikan sesuatu tindakan.

Apa yang ejen boleh lakukan tidak mencukupi. Apa yang penting ialah apa yang projek anda benarkan mereka lakukan.

Source: https://dev.to/alexander_iwizard/capabilities-permissions-and-approval-gates-in-ai-developer-teams-2cc4

Optional learning community: https://t.me/GyaanSetuAi