Seiring transisi agen AI dari chatbot sederhana menjadi pekerja otonom, mereka semakin bergantung pada Model Context Protocol (MCP) untuk berinteraksi dengan alat dan data eksternal. Namun, kemampuan ini disertai dengan biaya finansial dan performa tersembunyi yang kini sedang coba diatasi oleh Okta.
Memahami "Tool Tax" dalam Orkestrasi AI
Saat agen AI berinteraksi dengan lingkungan melalui server MCP, setiap panggilan model mengharuskan agen untuk memahami kapabilitas yang tersedia. Untuk melakukan ini, sistem harus menyertakan seluruh daftar skema alat, nama, deskripsi, dan parameter ke dalam konteks prompt.
Okta telah mengidentifikasi fenomena ini sebagai “tool tax” (pajak alat). Seiring bertambahnya jumlah alat yang terintegrasi, overhead prompt berkembang secara eksponensial. Hal ini menyebabkan peningkatan signifikan dalam konsumsi token, yang secara langsung membengkakkan biaya operasional dan meningkatkan latensi pada setiap langkah penalaran yang diambil agen. Untuk penerapan skala perusahaan yang mengelola ratusan alat, overhead ini dapat menjadi hambatan utama bagi anggaran maupun performa.
Mengatasi Overhead dengan Identity-Scoped MCP
Untuk memitigasi ketidakefisienan ini, Okta memperkenalkan daftar alat MCP berbasis identitas (identity-scoped). Alih-alih menyiarkan setiap alat yang tersedia ke setiap permintaan model, pendekatan Okta menggunakan identity and access management (IAM) untuk menyaring set alat secara dinamis.
Dengan menerapkan pembatasan berbasis identitas (identity-scoped scoping), server MCP hanya menyediakan definisi alat spesifik yang diizinkan untuk digunakan oleh pengguna atau agen yang terautentikasi. Jika seorang agen bertindak atas nama karyawan junior, ia hanya menerima sebagian dari total skema alat; jika ia bertindak atas nama administrator, ia menerima seluruh rangkaian alat. Hal ini memastikan bahwa jendela konteks (context window) model tidak dipenuhi dengan deskripsi alat yang tidak relevan atau tidak sah, sehingga secara efektif memangkas jumlah token yang diperlukan untuk setiap panggilan inferensi.
Mengapa Ini Penting bagi Ekosistem AI
Perkembangan ini menandai pergeseran kritis dari AI yang "berpusat pada kapabilitas" (capability-centric) menjadi AI yang "berpusat pada tata kelola" (governance-centric). Seiring pengembang beralih ke alur kerja agen (agentic workflows) yang lebih kompleks, industri menyadari bahwa skala tidak dapat dicapai hanya melalui brute-force prompting.
Strategi Okta menjawab dua hambatan paling signifikan dalam adopsi AI perusahaan: optimalisasi biaya dan keamanan. Dengan mengaitkan paparan alat ke identitas, Okta tidak hanya mengurangi "tool tax" tetapi juga menegakkan prinsip hak akses minimum (principle of least privilege) pada tingkat protokol. Hal ini memastikan bahwa agen AI tidak secara tidak sengaja menemukan atau mencoba memanggil fungsi sensitif—seperti alat penghapusan database—hanya karena skema alat tersebut ada dalam konteks prompt.
Poin-Poin Penting
- Mengurangi Pemborosan Token: MCP berbasis identitas membatasi skema alat yang dikirim ke LLM, secara langsung menurunkan "tool tax" dan mengurangi biaya inferensi.
- Keamanan yang Ditingkatkan: Dengan menyaring alat berdasarkan identitas pengguna, Okta menegakkan kontrol akses yang ketat, mencegah agen mengakses fungsi yang tidak sah.
- Alur Kerja Agen yang Skalabel: Pembatasan (scoping) memungkinkan perusahaan untuk menerapkan pustaka alat yang luas tanpa peningkatan latensi dan overhead prompt secara linear seperti yang biasanya terlihat pada implementasi MCP skala besar.
Intinya: Dengan mengaitkan paparan alat ke identitas, Okta memangkas pembengkakan token yang telah menghambat penerapan agen AI skala besar sekaligus memperketat keamanan. Langkah ini mendorong industri menuju AI yang berpusat pada tata kelola, di mana biaya, kecepatan, dan kontrol akses dibangun ke dalam protokol, bukan sekadar ditambahkan setelahnya.
