ChatGPT ನ ಅನುಮತಿ ಮಾದರಿಯು ದಾಳಿಕೋರರಿಗೆ Gmail ಸಂದೇಶಗಳನ್ನು ಕದಿಯಲು ಅವಕಾಶ ಮಾಡಿಕೊಟ್ಟಿತು, ಇದು OpenAI ತನ್ನ ದುರ್ಬಲವಾದ ಆಂತರಿಕ ಸೇವೆಯನ್ನು ಸ್ಥಗಿತಗೊಳಿಸಲು ಪ್ರೇರೇಪಿಸಿತು. Check Point Research ಈ ದೋಷವನ್ನು ಬಯಲಿಗೆಪಡಿಸಿತು, ಒಂದು ಸಿದ್ಧಪಡಿಸಿದ ಪ್ರಾಂಪ್ಟ್ ಮೂಲಕ AI ಅನ್ನು ಬಳಕೆದಾರರ ಲಿಂಕ್ ಮಾಡಲಾದ ಇಮೇಲ್ ಖಾತೆಯನ್ನು ಓದಲು ಮತ್ತು ಅದರ ವಿಷಯವನ್ನು ದಾಳಿಕೋರರ ನಿಯಂತ್ರಣದಲ್ಲಿರುವ ವಿಳಾಸಕ್ಕೆ ಕಳುಹಿಸಲು ಒತ್ತಾಯಿಸಬಹುದು ಎಂದು ಇದು ತೋರಿಸಿದೆ.
ಇಂಜೆಕ್ಷನ್ ಹೇಗೆ ಕೆಲಸ ಮಾಡುತ್ತದೆ
ಸಂಶೋಧಕರು ಸಾಮಾನ್ಯ ಪ್ರಾಂಪ್ಟ್ನೊಳಗೆ ಒಂದು ಗುಪ್ತ ಸೂಚನೆಯನ್ನು ಸೇರಿಸಿದರು. ಬಳಕೆದಾರರು Gmail ಅನ್ನು ChatGPT ಗೆ ಲಿಂಕ್ ಮಾಡಿದಾಗ, ಆ ಹಾನಿಕಾರಕ ಪ್ರಾಂಪ್ಟ್ Gmail ದತ್ತಾಂಶವನ್ನು ಪಡೆದು ಅದನ್ನು ದಾಳಿಕೋರರಿಗೆ ಇಮೇಲ್ ಮಾಡಲು ಮಾಡೆಲ್ಗೆ ಸೂಚಿಸಿತು. ಈ ದತ್ತಾಂಶವು ಬಳಕೆದಾರರಿಂದ ಯಾವುದೇ ಹೆಚ್ಚುವರಿ ಸಮ್ಮತಿಯನ್ನು ಕೇಳದ ಆಂತರಿಕ ರೂಟಿಂಗ್ ಸೇವೆಯ ಮೂಲಕ ಹಾದುಹೋಯಿತು. ಈ ಸೇವೆಯು ಹಿನ್ನೆಲೆಯಲ್ಲಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತಿದ್ದರಿಂದ, ಬಳಕೆದಾರರಿಗೆ ಯಾವುದೇ ಅನುಮತಿ ವಿನಂತಿ ಕಾಣಿಸಲಿಲ್ಲ.
OpenAI ನ ಕ್ಷಿಪ್ರ ಪರಿಹಾರ
OpenAI ತನ್ನ ಆಂತರಿಕ ರೂಟಿಂಗ್ ಸೇವೆಯನ್ನು ಆಫ್ಲೈನ್ ಮಾಡಿತು, ಇದರಿಂದ ಸಂಶೋಧಕರು ಬಳಸಿಕೊಂಡಿದ್ದ ಮಾರ್ಗವು ಕಡಿತಗೊಂಡಿತು. ಈ ಪ್ಯಾಚ್ ದತ್ತಾಂಶ ಸೋರಿಕೆಯ ಈ ನಿರ್ದಿಷ್ಟ ವಿಧಾನವನ್ನು ತಡೆಯುತ್ತದೆ, ಆದರೆ ಸ್ಪಷ್ಟ ಪ್ರಾಂಪ್ಟ್ಗಳಿಲ್ಲದೆ ಪ್ಲಗಿನ್ಗಳು ಸಂಪರ್ಕಿತ ಅಪ್ಲಿಕೇಶನ್ಗಳ ಮೇಲೆ ಕಾರ್ಯನಿರ್ವಹಿಸಲು ಅನುಮತಿಸುವ ಅನುಮತಿ ಚೌಕಟ್ಟು ಹಾಗೆಯೇ ಉಳಿಯುತ್ತದೆ.
ಇದು ಏಕೆ ಮುಖ್ಯ
Gmail ವೈಯಕ್ತಿಕ ಮತ್ತು ಕಾರ್ಪೊರೇಟ್ ಸಂವಹನಗಳನ್ನು ಹೊಂದಿರುತ್ತದೆ; ಯಾವುದೇ ಭಂಗವು ಬಳಕೆದಾರರ ದತ್ತಾಂಶವನ್ನು ರಕ್ಷಿಸುವುದಾಗಿ ಹೇಳಿಕೊಳ್ಳುವ AI ಅಸಿಸ್ಟೆಂಟ್ಗಳ ಮೇಲಿನ ನಂಬಿಕೆಯನ್ನು ಕುಗ್ಗಿಸುತ್ತದೆ. ಈ ಘಟನೆಯು ಎರಡು ವ್ಯಾಪಕ ಅಪಾಯಗಳನ್ನು ಎತ್ತಿ ತೋರಿಸುತ್ತದೆ:
- Prompt injection – ಹಾನಿಕಾರಕ ಪ್ರಾಂಪ್ಟ್ಗಳು ಅಸಿಸ್ಟೆಂಟ್ ಅನ್ನು ಹೈಜಾಕ್ ಮಾಡಬಹುದು, ಇದರಿಂದ ಅದು ದತ್ತಾಂಶ ಸೋರಿಕೆಯ ಮಾಧ್ಯಮವಾಗಿ ಬದಲಾಗಬಹುದು.
- Plugin permission models – ಪ್ರಸ್ತುತ ವಿನ್ಯಾಸಗಳು ಬಳಕೆದಾರರಿಗೆ ಸ್ಪಷ್ಟ ಅರಿವಿಲ್ಲದೆಯೇ ಮೂರನೇ ವ್ಯಕ್ತಿಯ (third-party) ಸೇವೆಗಳಿಗೆ AI ಸಾಧನಗಳಿಗೆ ವ್ಯಾಪಕ ಪ್ರವೇಶವನ್ನು ನೀಡಬಹುದು.
ಈ ಘಟನೆಯು AI ಅಸಿಸ್ಟೆಂಟ್ಗಳು ವೈಯಕ್ತಿಕ ದತ್ತಾಂಶದೊಂದಿಗೆ ಹೆಚ್ಚು ಆಳವಾಗಿ ಬೆರೆಯುತ್ತಿದ್ದಂತೆ, ಅವುಗಳ ಪ್ರವೇಶವನ್ನು ನಿಯಂತ್ರಿಸುವ ಕಾರ್ಯವಿಧಾನಗಳು ಪಾರದರ್ಶಕವಾಗಿರಬೇಕು ಮತ್ತು ಲೆಕ್ಕಪರಿಶೋಧನೆಗೆ ಒಳಪಡುವಂತಿರಬೇಕು ಎಂದು ನಮಗೆ ನೆನಪಿಸುತ್ತದೆ. ಅಲ್ಲಿಯವರೆಗೆ, ಬಳಕೆದಾರರು AI ಸಾಧನಗಳು ಮತ್ತು ಖಾಸಗಿ ಖಾತೆಗಳ ನಡುವಿನ ಯಾವುದೇ ಸಂಪರ್ಕವನ್ನು ಎಚ್ಚರಿಕೆಯಿಂದ ಪರಿಗಣಿಸಬೇಕು.