𝗥𝗶𝘀𝗰𝗵𝗶 𝗱𝗶 𝘀𝗲𝗰𝘂𝗿𝗶𝘁𝗮 𝗱𝗶 𝗔𝗺𝗮𝘇𝗼𝗻 𝗕𝗲𝗱𝗿𝗼𝗰𝗸 𝗔𝗴𝗲𝗻𝘁𝗖𝗼𝗿𝗲
Amazon Bedrock AgentCore crea sistemi di IA avanzati. Questi sistemi utilizzano il recupero RAG e la memoria persistente. Utilizzano un unico endpoint per l'accesso degli utenti.
Questa configurazione crea nuovi rischi di sicurezza.
Gli attaccanti possono inserire contenuti dannosi nelle basi di conoscenza S3. Questo contenuto transita attraverso la pipeline di recupero e raggiunge direttamente i flussi di lavoro dei tecnici.
Lo strato di memoria persistente aggiunge un ulteriore problema. Gli attaccanti possono avvelenare il contesto tra sessioni diverse. Questo rischio non esiste nelle configurazioni LLM stateless.
Principali preoccupazioni sulla sicurezza:
- Attacchi di injection multi-livello.
- Avvelenamento dei dati tramite le basi di conoscenza S3.
- Avvelenamento del contesto cross-session tramite AgentCore Memory.
Leggi l'analisi tecnica completa qui: https://gridthegrey.com/posts/first-look-agentcore-rag-agent-exposes-multi-layer-injection-and-data-poisoning/
Community di apprendimento opzionale: https://t.me/GyaanSetuAi