Додавання пам'яті агенту
Створення ШІ-агента потребує більшого, ніж просто моделі. Йому потрібен спосіб пам'ятати, хто ви є.
У своїй серії публікацій про створення AWS Briefing Agent я досліджую, як перейти від взаємодій без збереження стану (stateless) до персоналізованого досвіду.
Проблема стандартних microVM полягає в тому, що вони є stateless. Коли сесія завершується, середовище знищується. Це запобігає витоку даних, але це також означає, що агент забуває все. Без пам'яті користувач змушений повторювати свої вподобання кожного разу, коли він увійшов у систему.
Я вирішив це за допомогою AgentCore Memory та Strands Agents.
Ось як працює архітектура:
- Короткострокова пам'ять: зберігає необроблені взаємодії протягом 90 днів для підтримки контексту під час чату.
- Довгострокова пам'ять: використовує дві специфічні стратегії, щоб перетворити розмови на тривалі знання.
- Семантична стратегія: витягує фактичні дані, наприклад, якими сервісами AWS користувач користується у продакшені.
- Стратегія вподобань користувача: визначає стилі та інтереси, наприклад, перевагу для serverless-інструментів.
Для безпеки даних система використовує простори імен (namespaces). Використовуючи змінну {actorId}, я гарантую, що дані одного користувача ніколи не потраплять у сесію іншого користувача.
Я також інтегрував AWS Cognito для безпечної автентифікації. Агент перевіряє JWT-токени для підтвердження особи. Після перевірки система витягує унікальний claim 'sub' із токена. Цей ID стає actor_id, який агент використовує для отримання відповідних записів пам'яті.
Інтеграція є безшовною. Завдяки використанню AgentCoreMemorySessionManager агент автоматично:
- завантажує історію розмови з короткострокової пам'яті.
- шукає у довгостроковій пам'яті відповідні факти та вподобання.
- впроваджує цей контекст у стан агента перед відповіддю.
Результатом є агент, який сприймається як персональний. Він знає ваш рівень експертності та ваші специфічні інтереси в AWS без необхідності щось повторювати.
Джерело: https://dev.to/aws-heroes/adding-memory-to-the-agent-181k
Додаткова спільнота для навчання: https://t.me/GyaanSetuAi