סיכוני אבטחה ב-Amazon Bedrock AgentCore

Amazon Bedrock AgentCore יוצר מערכות AI מתקדמות. מערכות אלו משתמשות ב-RAG retrieval ובזיכרון מתמיד (persistent memory). הן משתמשות ב-endpoint יחיד לגישת משתמשים.

מבנה זה יוצר סיכוני אבטחה חדשים.

תוקפים יכולים להחדיר תוכן זדוני לבסיסי הידע של S3. תוכן זה עובר דרך ה-retrieval pipeline ומגיע ישירות לתהליכי העבודה (workflows) של הטכנאים.

שכבת הזיכרון המתמיד מוסיפה בעיה נוספת. תוקפים יכולים להרעיל הקשר (context) לאורך סשנים שונים. סיכון זה אינו קיים במערכות LLM חסרות מצב (stateless).

דאגות אבטחה מרכזיות:

קראו את הניתוח הטכני המלא כאן: https://gridthegrey.com/posts/first-look-agentcore-rag-agent-exposes-multi-layer-injection-and-data-poisoning/

מקור: https://dev.to/bansac1981/first-look-amazon-bedrock-agentcore-rag-agent-exposes-multi-layer-injection-and-data-poisoning-32k3

קהילת למידה אופציונלית: https://t.me/GyaanSetuAi