Amazon Bedrock AgentCore സുരക്ഷാ ഭീഷണികൾ
Amazon Bedrock AgentCore അത്യാധുനിക AI സംവിധാനങ്ങൾ നിർമ്മിക്കുന്നു. ഈ സംവിധാനങ്ങൾ RAG retrieval-ഉം persistent memory-യും ഉപയോഗിക്കുന്നു. ഉപയോക്താക്കളുടെ പ്രവേശനത്തിനായി ഇവ ഒരു സിംഗിൾ എൻഡ്പോയിന്റ് ആണ് ഉപയോഗിക്കുന്നത്.
ഈ ക്രമീകരണം പുതിയ സുരക്ഷാ ഭീഷണികൾ സൃഷ്ടിക്കുന്നു.
ആക്രമണകാരികൾക്ക് S3 knowledge bases-ൽ ദോഷകരമായ ഉള്ളടക്കം ഉൾപ്പെടുത്താൻ കഴിയും. ഈ ഉള്ളടക്കം retrieval pipeline വഴി കടന്നുപോകുന്നു. ഇത് നേരിട്ട് ടെക്നീഷ്യൻ വർക്ക്ഫ്ലോകളിലേക്ക് എത്തുന്നു.
Persistent memory ലെയർ മറ്റൊരു പ്രശ്നം കൂടി ഉണ്ടാക്കുന്നു. വിവിധ സെഷനുകൾക്കിടയിൽ ആക്രമണകാരികൾക്ക് കോൺടെക്സ്റ്റ് പോയിസൺ ചെയ്യാൻ കഴിയും. stateless LLM സംവിധാനങ്ങളിൽ ഇത്തരത്തിലുള്ള ഭീഷണി നിലവിലില്ല.
പ്രധാന സുരക്ഷാ ആശങ്കകൾ:
- മൾട്ടി-ലെയർ ഇൻജക്ഷൻ ആക്രമണങ്ങൾ (Multi-layer injection attacks).
- S3 knowledge bases വഴിയുള്ള ഡാറ്റാ പോയിസണിംഗ് (Data poisoning).
- AgentCore Memory വഴിയുള്ള ക്രോസ്-സെഷൻ കോൺടെക്സ്റ്റ് പോയിസണിംഗ് (Cross-session context poisoning).
പൂർണ്ണമായ സാങ്കേതിക വിശകലനം ഇവിടെ വായിക്കാം: https://gridthegrey.com/posts/first-look-agentcore-rag-agent-exposes-multi-layer-injection-and-data-poisoning/
ഓപ്ഷണൽ ലേണിംഗ് കമ്മ്യൂണിറ്റി: https://t.me/GyaanSetuAi