Anthropic ನ ಪ್ರಾಂಪ್ಟ್-ಲೀಕ್ (prompt-leak) ದೋಷವು ಒಂದು ವಾರದ ಬಳಕೆದಾರರ ಡೇಟಾವನ್ನು ಬಹಿರಂಗಪಡಿಸಿದೆ.

ಈ ಉಲ್ಲಂಘನೆಯು ಏಕೆ ಮುಖ್ಯ

Anthropic ನ ಮಾಡೆಲ್ ಇಂಟರ್ಫೇಸ್ ಅಭಿವರ್ಧಕರಿಗೆ "ಪ್ರಾಂಪ್ಟ್‌ಗಳನ್ನು" (prompts) ಕಳುಹಿಸಲು ಅವಕಾಶ ನೀಡುತ್ತದೆ—ಇವು ಭಾಷಾ ಮಾದರಿಯ (language model) ಪ್ರತಿಕ್ರಿಯೆಯನ್ನು ನಿಯಂತ್ರಿಸುವ ಪಠ್ಯಗಳಾಗಿವೆ. ಈ ಘಟನೆಯಲ್ಲಿ, ಸ್ಟೋರೇಜ್ ದೋಷದಿಂದಾಗಿ ಅನಧಿಕೃತ ವ್ಯಕ್ತಿಗಳು ಏಳು ದಿನಗಳ ಕಾಲ ಆ ಪ್ರಾಂಪ್ಟ್‌ಗಳನ್ನು ಓದಲು ಸಾಧ್ಯವಾಯಿತು. ಈ ಸೋರಿಕೆಯು ಯಾವುದೇ ದೊಡ್ಡ ಮಟ್ಟದ ಹ್ಯಾಕಿಂಗ್ ಆಗಿರಲಿಲ್ಲ; ಪ್ರಾಂಪ್ಟ್‌ಗಳನ್ನು ಹೇಗೆ ಉಳಿಸಲಾಗುತ್ತದೆ ಮತ್ತು ಪಡೆಯಲಾಗುತ್ತದೆ ಎಂಬಲ್ಲಿನ ಸಣ್ಣ ಅಜಾಗರೂಕತೆಯು ಈ ದಾರಿಯನ್ನು ತೆರೆಯಿತು.

ಏನಾಗ ತಪ್ಪಾಗಿದೆ

ಬಳಕೆದಾರರ ಡೇಟಾವನ್ನು ಮಾಡೆಲ್ ತೂಕಗಳಿಂದ (model weights) ಪ್ರತ್ಯೇಕವಾಗಿ ಇರಿಸುವುದು ಡೇಟಾ ಸೋರಿಕೆಯ ಅಪಾಯವನ್ನು ಸೀಮಿತಗೊಳಿಸುತ್ತದೆ. ಆಡಿಟ್ ಟ್ರೈಲ್‌ಗಳನ್ನು (audit trails) ನಿರ್ಮಿಸುವುದು ಅಸಹಜ ಚಟುವಟಿಕೆಗಳನ್ನು ಮೊದಲೇ ಪತ್ತೆಹಚ್ಚಲು ಸಹಾಯ ಮಾಡುತ್ತದೆ.

AI ಸ್ಟಾರ್ಟ್‌ಅಪ್‌ಗಳಿಗಾಗಿ ತಕ್ಷಣದ ಕ್ರಮಗಳು

  • ಪ್ರಾಂಪ್ಟ್ ನಿರ್ವಹಣೆಯನ್ನು ಬಲಪಡಿಸಿ (Harden prompt handling) – ಪ್ರತಿಯೊಂದು ಬರುವ ಪ್ರಾಂಪ್ಟ್ ಅನ್ನು ಸೂಕ್ಷ್ಮ ಇನ್‌ಪುಟ್ ಎಂದು ಪರಿಗಣಿಸಿ. ಅದನ್ನು ಸ್ಟೋರೇಜ್‌ನಲ್ಲಿ ಎನ್‌ಕ್ರಿಪ್ಟ್ ಮಾಡಿ, ಓದುವ/ಬರೆಯುವ ಹಕ್ಕುಗಳನ್ನು (read/write rights) ಕನಿಷ್ಠ ಸೇವೆಗಳಿಗೆ ಮಾತ್ರ ಸೀಮಿತಗೊಳಿಸಿ ಮತ್ತು ಮಾಡೆಲ್ ಎಕ್ಸಿಕ್ಯೂಷನ್ ಇಂಜಿನ್ ಮಾತ್ರ ಅದನ್ನು ಪಡೆಯುವಂತೆ ಖಚಿತಪಡಿಸಿಕೊಳ್ಳಿ.
  • ಬಳಕೆದಾರರ ಡೇಟಾವನ್ನು ಮಾಡೆಲ್ ತೂಕಗಳಿಂದ ಪ್ರತ್ಯೇಕಿಸಿ – ಪ್ರಾಂಪ್ಟ್‌ಗಳನ್ನು ಮಾಡೆಲ್ ಫೈಲ್‌ಗಳಿಂದ ಭೌತಿಕವಾಗಿ ಮತ್ತು ತಾರ್ಕಿಕವಾಗಿ ವಿಭಿನ್ನವಾದ ಪ್ರತ್ಯೇಕ ರೆಪೊಸಿಟರಿಯಲ್ಲಿ ಸಂಗ್ರಹಿಸಿ. ಈ ವಿಭಜನೆಯು ಯಾವುದೇ ಸೋರಿಕೆಯ ಪರಿಣಾಮದ ವ್ಯಾಪ್ತಿಯನ್ನು (blast radius) ಸೀಮಿತಗೊಳಿಸುತ್ತದೆ.
  • ಆಡಿಟ್ ಟ್ರೈಲ್‌ಗಳನ್ನು ರಚಿಸಿ – ಪ್ರಾಂಪ್ಟ್ ಸ್ಟೋರೇಜ್ ಅನ್ನು ಪ್ರತಿಯೊಂದು ಬಾರಿ ಬಳಸಿದಾಗಲೂ ಸಮಯದ ಮುದ್ರೆ (timestamps), ಬಳಕೆದಾರರ ಐಡಿಗಳು (user IDs) ಮತ್ತು ಮೂಲ ಐಪಿ (source IPs) ಗಳೊಂದಿಗೆ ಲಾಗ್ ಮಾಡಿ. ಅಸಹಜ ಓದುವ ಪ್ರಮಾಣ ಅಥವಾ ಅನಿರೀಕ್ಷಿತ ಸೇವೆಗಳಿಂದ ಪ್ರವೇಶ ಕಂಡುಬಂದಾಗ ಎಚ್ಚರಿಕೆ ನೀಡುವ ರಿಯಲ್-ಟೈಮ್ ಅನಾಲಿಟಿಕ್ಸ್ ಅನ್ನು ಬಳಸಿ.

ಮುಂದೆ ಗಮನಿಸಬೇಕಾದವುಗಳು

ಸಾರಾಂಶ: ಪ್ರಾಂಪ್ಟ್ ನಿರ್ವಹಣೆಯ ಒಂದು ಸಣ್ಣ ದೋಷವು ವಾರಗಟ್ಟಲೆ ಡೇಟಾ ಸೋರಿಕೆಗೆ ಕಾರಣವಾಗಬಹುದು. AI ಸಂಸ್ಥಾಪಕರು ಇತರ ಯಾವುದೇ ಬಳಕೆದಾರರ ಡೇಟಾ ವ್ಯವಸ್ಥೆಗಳಿಗೆ ಅನ್ವಯಿಸುವಷ್ಟೇ ಕಟ್ಟುನಿಟ್ಟಿನ ಕ್ರಮಗಳನ್ನು ಪ್ರಾಂಪ್ಟ್ ಸ್ಟೋರೇಜ್‌ಗೂ ಅನ್ವಯಿಸಬೇಕು, ಇಲ್ಲದಿದ್ದರೆ ಅವರು Anthropic ಮಾಡಿದ ದುಬಾರಿ ತಪ್ಪನ್ನೇ ಮರುಕಳಿಸುತ್ತಾರೆ.