Польові нотатки: Як Agentic RAG обробляє корпоративні дані

Клієнт надсилає запит у службу підтримки. Вони запитують деталі щодо гарантії на конкретні сервери з минулого проєкту. Також їм потрібні умови контракту та актуальний контактний номер служби підтримки.

Відповісти на це важко. Для цього потрібні дані з чотирьох різних джерел:

  • CRM для історії клієнта.
  • ERP для умов контракту.
  • Система управління активами для серійних номерів.
  • HR-системи для даних про персонал.

Ці системи використовують різні бази даних і різні рівні доступу. Стандартний RAG тут не справляється. Він виконує пошук один раз і здається, якщо нічого не знаходить.

Agentic RAG вирішує цю проблему, перетворюючи пошук на план дій. Він не просто шукає. Він мислить, діє та перевіряє свою роботу.

Ось як працює цей робочий процес:

  1. Оркестратор (The Orchestrator) Система розбиває запитання на підзавдання. Вона визначає, які джерела даних використовувати та які завдання залежать від інших.

  2. Переписувач запитів (The Query Rewriter) Кожна система говорить своєю мовою. Одній потрібен SQL. Інші потрібен пошук за ключовими словами. Переписувач перекладає запитання користувача у формат, що підходить для кожного інструменту.

  3. Паралельний пошук (Parallel Retrieval) Система робить запити до кількох джерел одночасно. Вона повинна дотримуватися правил безпеки. ШІ отримує доступ лише до тих даних, на перегляд яких конкретний користувач має право.

  4. Перевірка достатності (The Sufficiency Checker) Це найважливіша частина. Система запитує: «Чи достатньо цієї інформації, щоб відповісти на запитання?» Якщо чогось не вистачає, наприклад, конкретного PDF-вкладення, система не зупиняється. Вона створює новий план, щоб знайти цей конкретний файл. Вона працює по колу, доки не отримає повну картину.

  5. Синтез (Synthesis) Фінальний агент збирає всі фрагменти та формує єдину точну відповідь із зазначенням джерел.

Agentic RAG — це не панацея. Він повільніший і дорожчий за традиційний RAG.

Використовуйте традиційний RAG для простих запитань в одній базі даних. Використовуйте Agentic RAG для складних багатоетапних запитань у багатьох системах.

Мета полягає в тому, щоб перейти від простої моделі «запит-відповідь» до stateful-процесу: Планування. Виконання. Оцінка. Ітерація.

Source: https://dev.to/luhuidev/field-notes-how-agentic-rag-handles-the-real-mess-of-enterprise-data-a68

Optional learning community: https://t.me/GyaanSetuAi