Amazon Bedrock AgentCore のセキュリティリスク
Amazon Bedrock AgentCore は、高度な AI システムを構築します。これらのシステムは、RAG による検索と永続的なメモリを使用します。また、ユーザーアクセスには単一のエンドポイントを使用します。
この構成は、新たなセキュリティリスクを生じさせます。
攻撃者は S3 ナレッジベースに悪意のあるコンテンツを配置することができます。このコンテンツは検索パイプラインを経由し、技術者のワークフローに直接到達します。
永続的なメモリレイヤーは、さらなる問題を引き起こします。攻撃者は異なるセッション間でコンテキストを汚染することが可能です。このリスクは、ステートレスな LLM 設定には存在しません。
主なセキュリティ上の懸念事項:
- 多層的なインジェクション攻撃。
- S3 ナレッジベースを通じたデータポイズニング。
- AgentCore Memory を介したクロスセッションのコンテキスト汚染。
技術的な詳細分析はこちらからご覧いただけます: https://gridthegrey.com/posts/first-look-agentcore-rag-agent-exposes-multi-layer-injection-and-data-poisoning/
オプションの学習コミュニティ: https://t.me/GyaanSetuAi