𝗔𝗺𝗮𝘇𝗼𝗻 𝗕𝗲𝗱𝗿𝗼𝗰𝗸 𝗔𝗴𝗲𝗻𝘁𝗖𝗼𝗿𝗲 𝗦𝗲𝗰𝘂𝗿𝗶𝘁𝘆 𝗥𝗶𝘀𝗸𝘀
Amazon Bedrock AgentCore tạo ra các hệ thống AI tiên tiến. Các hệ thống này sử dụng cơ chế truy xuất RAG và bộ nhớ lưu trữ lâu dài (persistent memory). Chúng sử dụng một endpoint duy nhất để người dùng truy cập.
Thiết lập này tạo ra những rủi ro bảo mật mới.
Kẻ tấn công có thể đưa nội dung độc hại vào các cơ sở kiến thức (knowledge bases) trên S3. Nội dung này sẽ đi qua đường ống truy xuất (retrieval pipeline) và tiếp cận trực tiếp các quy trình làm việc của kỹ thuật viên.
Lớp bộ nhớ lưu trữ lâu dài (persistent memory) tạo thêm một vấn đề khác. Kẻ tấn công có thể đầu độc ngữ cảnh (poison context) xuyên suốt các phiên làm việc khác nhau. Rủi ro này không tồn tại trong các thiết lập LLM không lưu trạng thái (stateless).
Các mối quan tâm bảo mật chính:
- Các cuộc tấn công injection đa lớp.
- Đầu độc dữ liệu thông qua các cơ sở kiến thức S3.
- Đầu độc ngữ cảnh xuyên phiên thông qua AgentCore Memory.
Đọc phân tích kỹ thuật đầy đủ tại đây: https://gridthegrey.com/posts/first-look-agentcore-rag-agent-exposes-multi-layer-injection-and-data-poisoning/
Cộng đồng học tập tùy chọn: https://t.me/GyaanSetuAi