LLM + RAG + Function Calling Bukanlah Sebuah AI Agent

Banyak orang melabeli aplikasi apa pun yang menggunakan LLM, RAG, dan function calling sebagai AI agent.

Ini salah.

Alat-alat ini menambah kapabilitas. Mereka tidak menambah otonomi. Tanpa otonomi, Anda tidak memiliki sebuah agent.

Kebingungan ini terjadi karena orang mencampuradukkan kapabilitas sistem dengan perilaku sistem.

Perhatikan peran dari komponen-komponen ini:

  • LLM menghasilkan respons berdasarkan konteks. Mereka tidak mengontrol alur sebuah sistem.
  • RAG mengambil data yang relevan. Ia menyediakan konteks tetapi tidak membuat keputusan atau merencanakan langkah-langkah.
  • Function calling memungkinkan LLM untuk meminta tindakan. Sistem tetap memutuskan fungsi mana yang tersedia dan kapan harus menjalankannya.

Bahkan ketika Anda menggabungkan ketiganya, sistem tersebut masih kekurangan kendali atas alur eksekusi.

Dalam sebagian besar pengaturan, aplikasi mengikuti pipeline yang telah ditentukan sebelumnya. Kode tersebut memutuskan:

  • Kapan harus menggunakan RAG.
  • Kapan harus memanggil LLM.
  • Kapan harus memicu sebuah fungsi.
  • Bagaimana cara mengembalikan respons.

Ini adalah alur kerja yang terbatas (bounded workflow). Model mengikuti jalur yang telah ditetapkan lalu berhenti. Ia tidak merencanakan atau melakukan iterasi secara mandiri.

Sebuah AI agent bekerja secara berbeda. Ia tidak mengikuti urutan yang tetap. Ia memutuskan langkah selanjutnya berdasarkan apa yang terjadi selama proses berlangsung.

Perbedaannya sederhana:

  • Sistem non-agent mengikuti alur kerja.
  • Sistem agent mengejar sebuah tujuan.

Agent didefinisikan oleh perilaku, bukan oleh alat. Sebuah agent harus mampu:

  • Memilih tindakan selanjutnya.
  • Memilih alat secara dinamis.
  • Menjalankan beberapa langkah dalam sebuah loop.
  • Mengubah rencananya berdasarkan hasil baru.
  • Bekerja hingga mencapai tujuan.

Pikirkan tentang tanggung jawab.

Dalam aplikasi LLM, sistem memberi tahu model apa yang harus dilakukan.

Dalam sebuah agent, sistem memberi tahu model tujuannya. Model memutuskan bagaimana cara mencapainya.

RAG meningkatkan konteks. Function calling memungkinkan tindakan. LLM menyediakan penalaran. Tidak satu pun dari hal ini secara sendirian dapat menciptakan sebuah agent.

Sebuah agent hanya ada ketika model mengontrol urutan tindakannya sendiri.

Sumber: https://dev.to/rohith_kn/llm-rag-function-calling-is-not-an-ai-agent-5459