Риски безопасности Amazon Bedrock AgentCore
Amazon Bedrock AgentCore позволяет создавать продвинутые системы ИИ. Эти системы используют RAG-поиск и постоянную память (persistent memory). Для доступа пользователей используется единая конечная точка (endpoint).
Такая конфигурация создает новые риски безопасности.
Злоумышленники могут размещать вредоносный контент в базах знаний S3. Этот контент проходит через конвейер поиска (retrieval pipeline) и попадает напрямую в рабочие процессы технических специалистов.
Слой постоянной памяти создает дополнительную проблему. Злоумышленники могут осуществлять отравление контекста (context poisoning) в разных сессиях. Этот риск отсутствует в stateless-архитектурах LLM.
Ключевые проблемы безопасности:
- Многоуровневые инъекционные атаки.
- Отравление данных через базы знаний S3.
- Межсессионное отравление контекста через AgentCore Memory.
Полный технический анализ читайте здесь: https://gridthegrey.com/posts/first-look-agentcore-rag-agent-exposes-multi-layer-injection-and-data-poisoning/
Дополнительное обучающее сообщество: https://t.me/GyaanSetuAi