Enterprise AI Agents Need a Control Plane

Agen AI mudah dibangun tetapi sulit dikelola.

Pada awalnya, semua orang fokus pada kecepatan. Anda bisa membangun agen riset atau agen data dalam hitungan menit. Sekarang, fokusnya mulai bergeser. Pasar tidak lagi peduli seberapa cepat sebuah agen merespons dalam obrolan. Pasar peduli tentang bagaimana Anda mengelola agen tersebut setelah ia masuk ke dalam bisnis Anda.

Kita sedang beralih dari lapisan builder ke lapisan control plane.

Perusahaan seperti Microsoft, Google, ServiceNow, dan LangChain semuanya sedang membangun alat manajemen. Mereka tidak hanya membantu Anda membuat agen. Mereka membantu Anda melakukan tata kelola terhadapnya.

Jika Anda tidak memiliki control plane, Anda akan menghadapi agent sprawl. Ini berarti Anda memiliki agen yang redundan, tidak memiliki tata kelola, dan saling bertentangan di seluruh perusahaan Anda.

Anda harus menjawab pertanyaan-pertanyaan ini:

  • Siapa pemilik agen tersebut?
  • Kredensial siapa yang digunakannya untuk mengakses sistem Anda?
  • Sistem spesifik apa saja yang dapat diaksesnya?
  • Apa yang terjadi ketika pemiliknya keluar dari perusahaan?
  • Apa yang terjadi ketika biaya melonjak atau alat tersebut rusak?

Agen lebih mirip dengan pekerja semi-otonom daripada sekadar perangkat lunak biasa. Mereka memiliki memori. Mereka menggunakan API. Mereka berinteraksi dengan manusia. Hal ini membuat mereka berisiko jika Anda tidak memiliki tempat terpusat untuk menamai, memantau, dan menghentikan mereka.

Sebuah control plane yang sesungguhnya menangani tugas-tugas yang membosankan namun vital:

  • Registry: Daftar setiap agen yang digunakan.
  • Identity: Mengetahui dengan tepat siapa atau apa agen tersebut.
  • Permissions: Mengontrol data apa yang dapat dilihat oleh agen.
  • Audit: Menyimpan catatan setiap tindakan yang dilakukan agen.
  • Lifecycle: Mengetahui kapan harus menangguhkan atau menghentikan agen.

Jangan bertanya kepada vendor seberapa cepat alat mereka membuat agen. Itu hal yang mendasar.

Sebaliknya, tanyakan apa yang terjadi pada bulan kelima. Tanyakan apakah mereka dapat menunjukkan pemilik dari setiap agen. Tanyakan apakah mereka dapat menghentikan agen secara instan jika berperilaku buruk. Tanyakan apakah mereka dapat menghubungkan biaya agen ke alur kerja bisnis tertentu.

Membangun agen adalah bagian yang mudah. Menjalankannya sebagai tenaga kerja profesional adalah bagian yang sulit.

Sumber: https://dev.to/focused_dot_io/enterprise-ai-agents-have-a-control-plane-now-focused-labs-4enb

Komunitas pembelajaran opsional: https://t.me/GyaanSetuAi