Agent Tools Need Supply-Chain Controls Now

Better prompts will not save a repository with ungoverned agent tools.

Ejen pengekodan telah berkembang. Ia tidak lagi hanya berada di dalam kotak sembang. Ia membaca arahan. Ia memanggil alatan. Ia menyambung ke pasaran. Ia berjalan di dalam aliran kerja yang menyentuh fail, permintaan tarik (pull requests), dan API dalaman.

Persoalannya bukan lagi "adakah model ini cukup pintar?"

Persoalan sebenarnya ialah:

  • Siapa yang membenarkan alatan ini masuk ke dalam aliran kerja?
  • Apa yang boleh dicapai oleh alatan ini?
  • Bagaimana anda akan menyedari jika aksesnya berubah?

Ini bukan kejuruteraan prompt. Ini adalah kawalan rantaian bekalan.

Cadangan yang buruk adalah satu perkara. Cadangan yang buruk dengan akses ke shell, token repo, atau pemasang pakej adalah kelas masalah yang berbeza. Model tersebut bukan lagi sekadar menghasilkan teks. Ia kini berada di hadapan keupayaan.

Anggap alatan ejen seperti kebergantungan (dependencies).

Anda tidak memasang pakej berdasarkan gerak hati. Anda mementingkan daftar, penyelenggara, dan versi. Alatan ejen layak menerima kecurigaan yang sama.

Jika alatan ejen boleh menjejaskan repositori, sistem fail, atau rangkaian anda, ikuti peraturan ini:

• Simpan inventori alatan ejen. Dokumentasikan sumber dan pemiliknya. • Versikan arahan ejen. Anggap perubahan pada arahan seperti perubahan konfigurasi CI. • Senarai putih (allowlist) sumber alatan. Gunakan pasaran yang diketahui. • Asingkan alatan baca daripada alatan tulis. Alatan carian memerlukan keizinan yang berbeza daripada alatan suntingan. • Log panggilan alatan dengan jelas. Anda memerlukan jejak audit yang boleh dibaca oleh manusia. • Jadikan keupayaan berisiko jelas. Akses shell dan penulisan sistem fail mesti menonjol semasa semakan. • Cipta laluan untuk menyahaktifkan. Anda mesti boleh mengeluarkan alatan dengan cepat jika ia gagal.

Matlamatnya adalah untuk beralih daripada kepercayaan tidak sengaja kepada kepercayaan yang disengajakan.

Kelebihan besar seterusnya bukan milik pasukan dengan prompt yang paling hebat. Ia akan menjadi milik pasukan dengan inventori yang membosankan, senarai putih yang membosankan, dan log yang membosankan.

Itulah versi yang akan bertahan dalam projek sebenar.

Source: https://dev.to/hefty_69a4c2d631c9dd70724/agent-tools-need-supply-chain-controls-now-1co2

Optional learning community: https://t.me/GyaanSetuAi