Amazon Bedrock AgentCore ਸੁਰੱਖਿਆ ਜੋਖਮ
Amazon Bedrock AgentCore ਉੱਨਤ AI ਸਿਸਟਮ ਬਣਾਉਂਦਾ ਹੈ। ਇਹ ਸਿਸਟਮ RAG retrieval ਅਤੇ persistent memory ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ। ਇਹ ਉਪਭੋਗਤਾ ਦੀ ਪਹੁੰਚ ਲਈ ਇੱਕ ਸਿੰਗਲ endpoint ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ।
ਇਹ ਸੈੱਟਅੱਪ ਨਵੇਂ ਸੁਰੱਖਿਆ ਜੋਖਮ ਪੈਦਾ ਕਰਦਾ ਹੈ।
ਹਮਲਾਵਰ S3 knowledge bases ਵਿੱਚ ਗਲਤ ਸਮੱਗਰੀ ਪਾ ਸਕਦੇ ਹਨ। ਇਹ ਸਮੱਗਰੀ retrieval pipeline ਰਾਹੀਂ ਲੰਘਦੀ ਹੈ। ਇਹ ਸਿੱਧਾ ਤਕਨੀਕੀ ਵਰਕਫਲੋ ਤੱਕ ਪਹੁੰਚ ਜਾਂਦੀ ਹੈ।
Persistent memory layer ਇੱਕ ਹੋਰ ਸਮੱਸਿਆ ਪੈਦਾ ਕਰਦੀ ਹੈ। ਹਮਲਾਵਰ ਵੱਖ-ਵੱਖ ਸੈਸ਼ਨਾਂ ਵਿੱਚ context ਨੂੰ poison ਕਰ ਸਕਦੇ ਹਨ। ਇਹ ਜੋਖਮ stateless LLM ਸੈੱਟਅੱਪਾਂ ਵਿੱਚ ਨਹੀਂ ਹੁੰਦਾ।
ਮੁੱਖ ਸੁਰੱਖਿਆ ਚਿੰਤਾਵਾਂ:
- Multi-layer injection attacks.
- S3 knowledge bases ਰਾਹੀਂ data poisoning.
- AgentCore Memory ਰਾਹੀਂ cross-session context poisoning.
ਪੂਰਾ ਤਕਨੀਕੀ ਵਿਸ਼ਲੇਸ਼ਣ ਇੱਥੇ ਪੜ੍ਹੋ: https://gridthegrey.com/posts/first-look-agentcore-rag-agent-exposes-multi-layer-injection-and-data-poisoning/
ਵਿਕਲਪਿਕ ਲਰਨਿੰਗ ਕਮਿਊਨਿਟੀ: https://t.me/GyaanSetuAi