𝗕𝗲𝘆𝗼𝗻𝗱 𝗧𝗵𝗲 𝗔𝗴𝗲𝗻𝘁𝗶𝗰 𝗟𝗼𝗼𝗽: 𝗧𝘀 𝗢𝗿𝗰𝗵𝗲𝘀𝘁𝗿𝗮𝘁𝗼𝗿 𝗣𝗮𝘁𝘁𝗲𝗿𝗻
Kebanyakan orang membangun sistem multi-agen menggunakan agentic loop.
LLM bertindak sebagai otak dan alur kendali. Ia berpikir, memanggil alat (tool), mengamati, dan mengulanginya. Ini berfungsi untuk eksplorasi, tetapi menimbulkan tiga masalah besar:
- Ketidakpastian (Unpredictability): Sebuah tugas mungkin membutuhkan 3 panggilan atau 9 panggilan. Anda tidak pernah tahu latensi atau biayanya sampai sistem dijalankan.
- Non-determinisme: Pertanyaan yang sama mengikuti jalur yang berbeda setiap saat. Hal ini membuat agen sulit dipercaya untuk melakukan efek samping (side effects) seperti melakukan pemesanan.
- Observabilitas yang buruk: Debugging memerlukan pemutaran ulang transkrip penalaran dan panggilan alat yang berantakan.
Jika Anda sudah mengetahui agen dan fungsinya, gunakanlah pola Orchestrator sebagai gantinya.
Orchestrator memisahkan pengambilan keputusan dari eksekusi. Ia menggunakan tiga fase yang berbeda:
- Route (Rute): Satu panggilan LLM memilih alat yang akan digunakan. Ia tidak menjawab pengguna.
- Execute (Eksekusi): Kode TypeScript biasa menjalankan agen. Tidak ada LLM yang digunakan di sini.
- Synthesize (Sintesis): Satu panggilan LLM mengubah data menjadi respons yang natural.
Pola ini menciptakan tiga mode eksekusi:
• Single: Satu agen menangani kueri.
• Parallel: Beberapa agen independen berjalan secara bersamaan menggunakan Promise.all. Ini menghemat waktu.
• Sequential: Agen berjalan secara berurutan. Setiap langkah menggunakan hasil dari langkah sebelumnya.
Dengan menggunakan pendekatan ini, Anda mendapatkan:
- Rencana yang dapat Anda percayai: Anda dapat melihat rencana eksekusi sebelum kode apa pun dijalankan.
- Kecepatan lebih tinggi: Eksekusi paralel menangani beberapa pencarian sekaligus.
- Pengujian yang lebih baik: Anda dapat melakukan unit test pada fase eksekusi tanpa memerlukan kunci API.
- Biaya yang dapat diprediksi: Setiap permintaan menggunakan tepat dua panggilan LLM.
Gunakan agentic loop untuk eksplorasi. Gunakan orchestrator untuk sistem produksi yang membutuhkan kecepatan dan keandalan.
Optional learning community: https://t.me/GyaanSetuAi