LLM + RAG + Function Calling non è un agente AI

Molte persone definiscono qualsiasi applicazione AI un agente. Vedono un LLM che utilizza RAG e function calling e usano questa etichetta.

Questo è sbagliato.

Questi strumenti forniscono capacità. Non forniscono autonomia. Senza autonomia, non si ha un agente.

Bisogna separare ciò che un sistema può fare da come si comporta.

Un LLM genera testo partendo dal contesto. Non controlla il flusso del sistema.

Il RAG recupera informazioni per migliorare le risposte. Non pianifica né prende decisioni.

Il function calling permette a un modello di richiedere un'azione. Il sistema decide comunque quali funzioni esistono e quando eseguirle. Il modello si limita a fare la richiesta.

Si possono combinare tutti e tre gli elementi e mancare comunque di un agente. Manca il controllo sulla sequenza delle azioni.

La maggior parte delle applicazioni attuali utilizza una pipeline predefinita. Il codice decide:

  • Quando usare il RAG
  • Quando chiamare l'LLM
  • Quando attivare una funzione
  • Come elaborare il risultato finale

Questo è un workflow limitato. Il modello opera all'interno di un percorso prestabilito. Segue una sequenza e poi si ferma. Non pianifica.

Un agente AI funziona in modo diverso. Non segue un percorso prestabilito. Decide il passo successivo in base a ciò che accade durante il processo.

Un sistema standard dice: segui questo workflow. Un sistema agente dice: raggiungi questo obiettivo.

Un agente è definito dal suo comportamento, non dai suoi strumenti. Un agente deve:

  • Decidere l'azione successiva
  • Selezionare gli strumenti dinamicamente
  • Iterare attraverso più passaggi
  • Cambiare strategia in base ai risultati
  • Continuare finché non raggiunge l'obiettivo

La differenza riguarda la responsabilità.

In un'applicazione LLM, il sistema dice al modello cosa fare. In un agente, il sistema dice al modello l'obiettivo. Il modello decide come raggiungerlo.

Il RAG fornisce il contesto. Il function calling abilita le azioni. Gli LLM forniscono il ragionamento.

Ma un agente esiste solo quando il modello controlla la propria sequenza di azioni.

Fonte: https://dev.to/rohith_kn/llm-rag-function-calling-is-not-an-ai-agent-5459

Community di apprendimento opzionale: https://t.me/GyaanSetuAi