LLM + RAG + Function Calling یک عامل هوش مصنوعی (AI Agent) نیست

بسیاری از افراد هر برنامه هوش مصنوعی را یک عامل (agent) می‌نامند. آن‌ها یک LLM را می‌بینند که از RAG و function calling استفاده می‌کند و این برچسب را به آن می‌زنند.

این اشتباه است.

این ابزارها قابلیت فراهم می‌کنند، اما خودمختاری (autonomy) نمی‌دهند. بدون خودمختاری، شما یک عامل ندارید.

شما باید بین آنچه یک سیستم «می‌تواند» انجام دهد و «نحوه رفتار» آن، تفکیک قائل شوید.

یک LLM متن را بر اساس زمینه (context) تولید می‌کند. اما جریان سیستم را کنترل نمی‌کند.

RAG اطلاعات را برای بهبود پاسخ‌ها بازیابی می‌کند، اما برنامه‌ریزی نمی‌کند و تصمیم نمی‌گیرد.

Function calling به مدل اجازه می‌دهد درخواست یک اقدام را بدهد. اما سیستم همچنان تصمیم می‌گیرد که چه توابعی وجود دارند و چه زمانی اجرا شوند. مدل فقط درخواست را ارسال می‌کند.

شما می‌توانید هر سه را با هم ترکیب کنید و باز هم فاقد یک عامل باشید. شما کنترل بر توالی اقدامات (sequence of actions) را ندارید.

اکثر برنامه‌های فعلی از یک خط لوله (pipeline) از پیش تعریف شده استفاده می‌کنند. کد تصمیم می‌گیرد:

  • چه زمانی از RAG استفاده کند
  • چه زمانی LLM را فراخوانی کند
  • چه زمانی یک تابع را اجرا کند
  • چگونه نتیجه نهایی را پردازش کند

این یک گردش کار محدود (bounded workflow) است. مدل در یک مسیر مشخص فعالیت می‌کند. یک توالی را دنبال می‌کند و سپس متوقف می‌شود. مدل برنامه‌ریزی نمی‌کند.

یک عامل هوش مصنوعی متفاوت عمل می‌کند. او یک مسیر مشخص را دنبال نمی‌کند، بلکه بر اساس آنچه در طول فرآیند رخ می‌دهد، قدم بعدی را تصمیم می‌گیرد.

یک سیستم استاندارد می‌گوید: این گردش کار را دنبال کن. یک سیستم عامل می‌گوید: این هدف را محقق کن.

یک عامل با رفتار خود تعریف می‌شود، نه با ابزارهایش. یک عامل باید:

  • اقدام بعدی را تعیین کند
  • ابزارها را به صورت پویا انتخاب کند
  • مراحل متعدد را طی کند
  • استراتژی خود را بر اساس نتایج تغییر دهد
  • تا رسیدن به هدف ادامه دهد

تفاوت در مورد مسئولیت‌پذیری است.

در یک برنامه LLM، سیستم به مدل می‌گوید چه کار کند. در یک عامل، سیستم به مدل هدف را می‌گوید. مدل تصمیم می‌گیرد چگونه به آن برسد.

RAG زمینه (context) را فراهم می‌کند. Function calling اقدامات را ممکن می‌سازد. LLMها استدلال (reasoning) را فراهم می‌کنند.

اما یک عامل تنها زمانی وجود دارد که مدل، توالی اقدامات خود را کنترل کند.

Source: https://dev.to/rohith_kn/llm-rag-function-calling-is-not-an-ai-agent-5459

Optional learning community: https://t.me/GyaanSetuAi