Peneliti Yuxing Lu, Yicheng Chen, dan Shanchan Wu telah merilis kerangka kerja “Procedural Graph” yang memungkinkan agen large-language-model (LLM) menulis ulang rencana eksekusi tugas mereka sendiri saat sedang bekerja.
Masalah pada agen saat ini
Sebagian besar asisten berbasis LLM bertindak seperti koki yang hanya bisa membacakan resep. Model menyimpan langkah-langkah tersebut dalam memori transien, memilih alat berikutnya, dan berharap token berikutnya muncul dengan benar. Dalam praktiknya, tiga kegagalan sering muncul:
- Goal drift – setelah beberapa putaran, agen melupakan tujuan awal.
- Penyalahgunaan alat – ia memanggil API dalam urutan yang salah atau terjebak dalam pengulangan pada panggilan yang sama.
- Kesalahan yang tidak dipelajari – kesalahan yang sama muncul kembali di sesi yang tidak terkait karena tidak ada catatan permanen yang merekam kegagalan tersebut.
Karena penalaran tetap bersifat implisit, pengembang tidak dapat melihat mengapa suatu tindakan terjadi, dan pengguna tidak dapat memperbaiki cacat sistematis.
Mengubah prompt menjadi graf
Procedural Graphs mengganti pendekatan “hanya memori” dengan struktur eksplisit yang dapat diedit. Kerangka kerja ini mendefinisikan tiga elemen inti:
| Elemen | Peran |
|---|---|
| Node | Langkah konkret seperti “Cari penerbangan” atau “Verifikasi pembayaran.” |
| Edge | Aliran antar node – urutan garis lurus, cabang kondisional (if/then), dan pengulangan (loop). |
| Attribute | Metadata yang terlampir pada node atau edge, misalnya, tingkat keberhasilan, rata-rata waktu eksekusi, atau skor kepercayaan. |
Saat agen LLM menerima permintaan, ia pertama-tama memetakan permintaan tersebut ke dalam graf yang sudah ada atau membangun graf baru secara langsung. Eksekusi kemudian mengikuti edge, memanggil alat, dan menyimpan hasil dalam attribute. Karena graf berada di luar aliran token model, orang dapat memeriksa, memvisualisasikan, dan mengeditnya.
Evolusi mandiri dalam lima langkah
Kebaruannya terletak pada loop yang memungkinkan agen memperbaiki grafnya sendiri:
- Catat (Record) setiap jalur yang dilalui agen, mencatat input, panggilan alat, dan hasil.
- Bandingkan (Compare) jalur yang berhasil dengan jalur yang gagal, untuk menentukan di mana letak perbedaannya.
- Diagnosis (Diagnose) kesalahan dengan memeriksa atribut node (misalnya, tingkat keberhasilan yang rendah) dan kondisi edge.
- Usulkan (Propose) pengeditan – LLM menerima analisis kegagalan dan menyarankan modifikasi graf (menambahkan langkah validasi yang hilang, menghapus loop yang redundan, memperketat kondisi).
- Validasi (Validate) graf yang telah direvisi pada instansi pengujian; jika performa meningkat, perubahan tersebut akan diterapkan.
Karena graf berfungsi sebagai satu-satunya sumber kebenaran (single source of truth), agen dapat menambah langkah, menghapus jalan buntu, atau menyusun ulang logika tanpa bantuan manusia. Bahkan alur kerja buatan manusia yang canggung sekalipun dapat membaik seiring waktu.
Mengapa pergeseran ini penting
Generalisasi melampaui memorisasi
Prompt statis hanya menangkap satu instansi tugas. Sebuah graf mengabstraksi "cara melakukan" untuk seluruh kelas—seperti pencarian-dan-pemesanan, alur entri data, dialog pemecahan masalah—sehingga struktur yang sama dapat bekerja dengan parameter yang berbeda. Tim tidak perlu lagi memberikan prompt ulang ke model untuk setiap variasi.
Pengambilan keputusan yang transparan
Graf tersebut terlihat seperti diagram alir (flowchart). Pemangku kepentingan dapat melacak dengan tepat node mana yang memicu panggilan alat dan mengapa suatu cabang diambil.
Sinergi neuro-simbolik
Procedural Graphs memasangkan pengenalan pola deep-learning (pemahaman bahasa LLM) dengan penalaran simbolik (logika graf yang eksplisit). LLM menyediakan intuisi untuk menghasilkan atau memodifikasi langkah; graf menegakkan konsistensi logis. Penulis mendeskripsikan ini sebagai pemberian otak “System 2” kepada LLM—sebuah pengontrol yang terencana dan dapat diperiksa yang melengkapi “System 1” yang cepat dan asosiatif dari prediksi token mentah.
Kesimpulan
Procedural Graphs memberikan tulang punggung yang dapat diubah dan diperiksa kepada agen LLM yang memungkinkan mereka belajar dari setiap eksekusi. Dengan mengubah prompt yang sekilas menjadi struktur yang tahan lama, pendekatan ini menjanjikan asisten AI yang lebih sulit rusak, lebih mudah dipahami, dan lebih mudah beradaptasi dengan tantangan baru.