Riscos de Segurança do Amazon Bedrock AgentCore
O Amazon Bedrock AgentCore cria sistemas de IA avançados. Esses sistemas utilizam recuperação RAG e memória persistente. Eles utilizam um único endpoint para o acesso do usuário.
Essa configuração cria novos riscos de segurança.
Atacantes podem inserir conteúdo malicioso em bases de conhecimento do S3. Esse conteúdo percorre o pipeline de recuperação e chega diretamente aos fluxos de trabalho dos técnicos.
A camada de memória persistente adiciona outro problema. Atacantes podem envenenar o contexto entre diferentes sessões. Esse risco não existe em configurações de LLM stateless.
Principais preocupações de segurança:
- Ataques de injeção de múltiplas camadas.
- Envenenamento de dados por meio de bases de conhecimento do S3.
- Envenenamento de contexto entre sessões via AgentCore Memory.
Leia a análise técnica completa aqui: https://gridthegrey.com/posts/first-look-agentcore-rag-agent-exposes-multi-layer-injection-and-data-poisoning/
Comunidade de aprendizado opcional: https://t.me/GyaanSetuAi