Amazon Bedrock AgentCore सुरक्षा धोके
Amazon Bedrock AgentCore प्रगत AI सिस्टम्स तयार करते. या सिस्टम्स RAG retrieval आणि persistent memory वापरतात. वापरकर्त्यांच्या प्रवेशासाठी (user access) त्या एकाच endpoint चा वापर करतात.
ही रचना नवीन सुरक्षा धोके निर्माण करते.
हल्लेखोर S3 knowledge bases मध्ये घातक मजकूर टाकू शकतात. हा मजकूर retrieval pipeline मधून प्रवास करतो आणि थेट technician workflows पर्यंत पोहोचतो.
Persistent memory layer आणखी एक समस्या निर्माण करते. हल्लेखोर वेगवेगळ्या sessions मध्ये context poison करू शकतात. हा धोका stateless LLM setups मध्ये नसतो.
मुख्य सुरक्षा चिंता:
- Multi-layer injection attacks.
- S3 knowledge bases द्वारे Data poisoning.
- AgentCore Memory द्वारे Cross-session context poisoning.
संपूर्ण तांत्रिक विश्लेषण येथे वाचा: https://gridthegrey.com/posts/first-look-agentcore-rag-agent-exposes-multi-layer-injection-and-data-poisoning/
ऐच्छिक लर्निंग कम्युनिटी: https://t.me/GyaanSetuAi