𝗣𝗿𝗼𝗺𝗽𝘁 𝗜𝗻𝗷𝗲𝗰𝘁𝗶𝗼𝗻 ರಕ್ಷಣೆ: 𝗔 𝗣𝗿𝗼𝗱𝘂𝗰𝘁𝗶𝗼𝗻 𝗚𝘂𝗮𝗿𝗱𝗿𝗮𝗶𝗹𝘀 𝗣𝗹𝗮𝘆𝗯𝗼𝗼𝗸

Prompt injection ಎನ್ನುವುದು AI ಗೆ ಒಂದು ದೊಡ್ಡ ಬೆದರಿಕೆಯಾಗಿದೆ.

ದಾಳಿಕೋರರು ಡೇಟಾದ ಒಳಗೆ ಸೂಚನೆಗಳನ್ನು ಅಡಗಿಸಿಡುತ್ತಾರೆ. ನಿಮ್ಮ ಮಾಡೆಲ್ ನಿಮ್ಮ ಉದ್ದೇಶದ ಬದಲಿಗೆ ಅವರ ಉದ್ದೇಶವನ್ನು ಅನುಸರಿಸಬೇಕೆಂದು ಅವರು ಬಯಸುತ್ತಾರೆ. ಈ ಅಪಾಯವು Large Language Model ಅಪ್ಲಿಕೇಶನ್‌ಗಳಿಗಾಗಿ OWASP ಪಟ್ಟಿಯಲ್ಲಿ ಅಗ್ರಸ್ಥಾನದಲ್ಲಿದೆ.

ಸಮಸ್ಯೆ ಸರಳವಾಗಿದೆ. LLMಗಳು ಎಲ್ಲಾ ಪಠ್ಯವನ್ನು ಒಂದೇ ರೀತಿಯಲ್ಲಿ ನೋಡುತ್ತವೆ. ನಿಮ್ಮ ಸಿಸ್ಟಮ್ ಸೂಚನೆಗಳು (system instructions) ಮತ್ತು ಅದು ಪ್ರೊಸೆಸ್ ಮಾಡುವ ಡೇಟಾದ ನಡುವಿನ ವ್ಯತ್ಯಾಸವನ್ನು ಮಾಡೆಲ್ ಗುರುತಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ. ಮಾಡೆಲ್‌ಗೆ, ಇದೆಲ್ಲವೂ ಕೇವಲ ಪಠ್ಯವಾಗಿದೆ. ಇದು ಈ ದೌರ್ಬಲ್ಯವನ್ನು (vulnerability) ಸರಿಪಡಿಸುವುದನ್ನು ಕಷ್ಟಕರವಾಗಿಸುತ್ತದೆ.

ದಾಳಿಗಳಲ್ಲಿ ಎರಡು ವಿಧಗಳಿವೆ:

  • Direct injection: ಬಳಕೆದಾರರು ನಿಮ್ಮ ಅಪ್ಲಿಕೇಶನ್‌ಗೆ ನೇರವಾಗಿ ತಪ್ಪು ಸೂಚನೆಗಳನ್ನು ಟೈಪ್ ಮಾಡುತ್ತಾರೆ.
  • Indirect injection: ದಾಳಿಕೋರರು ನಿಮ್ಮ ಮಾಡೆಲ್ ಓದುವ ಡೇಟಾದಲ್ಲಿ ಸೂಚನೆಗಳನ್ನು ಅಡಗಿಸಿಡುತ್ತಾರೆ.

ನಿಮ್ಮ ಪ್ರೊಡಕ್ಷನ್ ಪರಿಸರವನ್ನು ರಕ್ಷಿಸಲು ನಿಮಗೆ ಗಾರ್ಡ್‌ರೈಲ್ಸ್‌ಗಳ (guardrails) ಅಗತ್ಯವಿದೆ.

AI Tech Connect ನಲ್ಲಿ ಪೂರ್ಣ ಲೇಖನವನ್ನು ಓದಿ.

ಮೂಲ: https://dev.to/rishi_kora/prompt-injection-defence-a-production-guardrails-playbook-2pam

ಐಚ್ಛಿಕ ಕಲಿಕಾ ಸಮುದಾಯ: https://t.me/GyaanSetuAi