AI ಕೋಡ್ ಅಸಿಸ್ಟೆಂಟ್‌ಗಳು ಅಸ್ತಿತ್ವದಲ್ಲಿಲ್ಲದ ಪ್ಯಾಕೇಜ್ ಹೆಸರುಗಳನ್ನು ನೀಡುತ್ತಿವೆ, ಮತ್ತು ದಾಳಿಕೋರರು ಅಂತಹ ಭ್ರಮೆಗಳನ್ನು (hallucinations) ನೈಜ ಸಪ್ಲೈ-ಚೈನ್ ಅಪಾಯಗಳನ್ನಾಗಿ ಪರಿವರ್ತಿಸುತ್ತಿದ್ದಾರೆ.
Lasso Security ನ ಭದ್ರತಾ ಸಂಶೋಧಕ Bar Lanyado ಅವರು ಒಂದು AI-ಚಾಲಿತ ಕೋಡಿಂಗ್ ಟೂಲ್ ಬಳಸಿ Python ಕ್ಲೈಂಟ್ ಅನ್ನು ಕೇಳಿದಾಗ, ಆ ಮಾಡೆಲ್ huggingface-cli ಅನ್ನು ಇನ್‌ಸ್ಟಾಲ್ ಮಾಡಲು ಸೂಚಿಸಿತು. ಆದರೆ ಆ ಪ್ಯಾಕೇಜ್ ಕೇವಲ ಒಂದು ಭ್ರಮೆ; ಅಸಲಿ ಲೈಬ್ರರಿಯು huggingface_hub ಎಂಬ ಹೆಸರಿನಲ್ಲಿದೆ. ಈ ಅಪಾಯವನ್ನು ಸಾಬೀತುಪಡಿಸಲು, Lanyado ಅವರು ಆ ನಕಲಿ ಹೆಸರನ್ನು Python Package Index (PyPI) ನಲ್ಲಿ ಒಂದು ಖಾಲಿ ಪ್ಲೇಸ್‌ಹೋಲ್ಡರ್ ಆಗಿ ನೋಂದಾಯಿಸಿದರು. ಮೂರು ತಿಂಗಳೊಳಗೆ ಆ ಪ್ಲೇಸ್‌ಹೋಲ್ಡರ್ 30,000 ಕ್ಕೂ ಹೆಚ್ಚು ಡೌನ್‌ಲೋಡ್‌ಗಳನ್ನು ಪಡೆಯಿತು, ಸಾರ್ವಜನಿಕ ದಾಖಲೆಗಳಲ್ಲಿ ಕಾಣಿಸಿಕೊಂಡಿತು ಮತ್ತು Alibaba ನ ರೆಪೊಸಿಟರಿಗಳಿಂದ ಸಂಗ್ರಹಿಸಲಾದ ಕೋಡ್ ಮಾದರಿಗಳಲ್ಲಿಯೂ ಕಂಡುಬಂದಿತು.
ಒಂದು ಕಾಲ್ಪನಿಕ ಪ್ಯಾಕೇಜ್ ಹೇಗೆ ನೈಜ ಬೆದರಿಕೆಯಾಗುತ್ತದೆ
- Prompt → hallucination – ಒಬ್ಬ ಡೆವಲಪರ್ AI ಬಳಿ ಸಹಾಯ ಕೇಳುತ್ತಾರೆ. ಅಸ್ತವ್ಯಸ್ತವಾದ ಇಂಟರ್ನೆಟ್ ಡೇಟಾದ ಮೇಲೆ ತರಬೇತಿ ಪಡೆದಿರುವ ಮಾಡೆಲ್, ಕೇಳಲು ನಂಬಲರ್ಹವಾಗಿರುವಂತಹ ಒಂದು ಪ್ಯಾಕೇಜ್ ಹೆಸರನ್ನು ಸೃಷ್ಟಿಸುತ್ತದೆ.
- Copy-paste → documentation – ಆ ಸೂಚನೆಯು README, Stack Overflow ಉತ್ತರ ಅಥವಾ ಆಂತರಿಕ ವಿಕಿ (wiki) ನಲ್ಲಿ ಬರುತ್ತದೆ. ಒಮ್ಮೆ ಬರೆದ ಮೇಲೆ, ಆ ಹೆಸರು ಸಮುದಾಯದಾದ್ಯಂತ ಹರಡುತ್ತದೆ.
- Code integration – AI ಅನ್ನು ನಂಬುವ ಡೆವಲಪರ್, ಆ ಹೆಸರನ್ನು requirements ಫೈಲ್‌ಗೆ ಸೇರಿಸಿ ಪ್ರೊಡಕ್ಷನ್‌ಗೆ ಕಳುಹಿಸುತ್ತಾರೆ.
ಅಸ್ತಿತ್ವದಲ್ಲಿರುವ ರಕ್ಷಣಾ ಕ್ರಮಗಳು ಈ ಸಮಸ್ಯೆಯನ್ನು ಏಕೆ ಗುರುತಿಸುವುದಿಲ್ಲ
ಸ್ಟ್ಯಾಟಿಕ್ ಅನಾಲಿಸಿಸ್ ಟೂಲ್‌ಗಳು ಮತ್ತು ವಲ್ನರಬಿಲಿಟಿ ಸ್ಕ್ಯಾನರ್‌ಗಳು ತಿಳಿದಿರುವ CVEಗಳು ಮತ್ತು ಬಿಡುಗಡೆಯ ಇತಿಹಾಸವಿರುವ ಲೈಬ್ರರಿಗಳಿಗಾಗಿ ಹುಡುಕುತ್ತವೆ. AI ಸೂಚನೆ ನೀಡುವ ಮೊದಲು ಶೂನ್ಯ ಡೌನ್‌ಲೋಡ್‌ಗಳನ್ನು ಹೊಂದಿರುವ ಹೊಸದಾಗಿ ಪ್ರಕಟವಾದ ಪ್ಯಾಕೇಜ್‌ಗೆ ಯಾವುದೇ CVE ಅಥವಾ ವಿಶ್ವಾಸಾರ್ಹತೆ ಇರುವುದಿಲ್ಲ, ಆದ್ದರಿಂದ ಅದು ಸುರಕ್ಷಿತವಾಗಿ ಕಾಣಿಸುತ್ತದೆ. ಪ್ರಮಾಣಿತ “is the version vulnerable?” ಪರಿಶೀಲನೆಯು ತಪ್ಪಾದ (false) ಫಲಿತಾಂಶವನ್ನು ನೀಡುತ್ತದೆ, ಇದು ಡೆವಲಪರ್‌ಗಳಿಗೆ ಸುಳ್ಳು ಸುರಕ್ಷತೆಯ ಭಾವನೆಯನ್ನು ನೀಡುತ್ತದೆ.
ಈ ಪ್ರಯೋಗವು ಏನನ್ನು ಸಾಬೀತುಪಡಿಸುತ್ತದೆ
- AI-invented names reach production – 30,000 ಕ್ಕೂ ಹೆಚ್ಚು ಡೌನ್‌ಲೋಡ್‌ಗಳು ಡೆವಲಪರ್‌ಗಳು ನಿಜವಾಗಿಯೂ ಈ ಕಾಲ್ಪನಿಕ ಪ್ಯಾಕೇಜ್‌ಗಳನ್ನು ಬಳಸುತ್ತಿದ್ದಾರೆ ಎಂಬುದನ್ನು ತೋರಿಸುತ್ತವೆ.
- Hallucinations become documentation – ಒಂದು ನಕಲಿ ಹೆಸರು ಸಾರ್ವಜನಿಕ ಮಾರ್ಗದರ್ಶನದಲ್ಲಿ ಒಮ್ಮೆ ಕಾಣಿಸಿಕೊಂಡರೆ, ಅದು ದೀರ್ಘಕಾಲ ಉಳಿದು ತಪ್ಪು ಮಾಹಿತಿಯನ್ನು ಹರಡಬಹುದು.
- Registration is trivial – PyPI ನಲ್ಲಿ ಪ್ಯಾಕೇಜ್ ಪ್ರಕಟಿಸುವುದು ಉಚಿತ ಮತ್ತು ಕೇವಲ ಕೆಲವೇ ನಿಮಿಷಗಳಲ್ಲಿ ಮಾಡಬಹುದು, ಇದು ಸಪ್ಲೈ-ಚೈನ್ ದುರುಪಯೋಗಕ್ಕೆ ದಾರಿಯಾಗುತ್ತದೆ.
ನಿಜವಾಗಿಯೂ ಕೆಲಸ ಮಾಡುವ ರಕ್ಷಣಾತ್ಮಕ ಕ್ರಮಗಳು
- Validate every dependency – ಹೊಸ requirement ಅನ್ನು ಸೇರಿಸುವ ಮೊದಲು, ಪ್ಯಾಕೇಜ್ ಇಂಡೆಕ್ಸ್‌ನಲ್ಲಿ ಹುಡುಕಿ ಮತ್ತು ಆ ಹೆಸರು ಅಸ್ತಿತ್ವದಲ್ಲಿರುವ, ದಾಖಲಿತ ಲೈಬ್ರರಿಯೊಂದಿಗೆ ಹೊಂದಿಕೆಯಾಗುತ್ತದೆಯೇ ಎಂದು ಖಚಿತಪಡಿಸಿಕೊಳ್ಳಿ.
- Cross-check with official sources – ಸೂಚಿಸಲಾದ ಹೆಸರನ್ನು ವೆಂಡರ್‌ನ ರೆಪೊಸಿಟರಿ ಅಥವಾ ಅಧಿಕೃತ ಇನ್‌ಸ್ಟಾಲೇಶನ್ ಗೈಡ್‌ನೊಂದಿಗೆ ಹೋಲಿಸಿ ನೋಡಿ.
- Treat new, low-adoption packages as high risk – ಅತ್ಯಲ್ಪ ಡೌನ್‌ಲೋಡ್‌ಗಳನ್ನು ಹೊಂದಿರುವ ಅಥವಾ ಇತ್ತೀಚೆಗಷ್ಟೇ ಬಿಡುಗಡೆಯಾದ ಯಾವುದೇ ಡಿಪೆಂಡೆನ್ಸಿಯನ್ನು ಮ್ಯಾನುಯಲ್ ರಿವ್ಯೂಗಾಗಿ (manual review) ಗುರುತಿಸಿ.
ಮುಂದೆ ಏನನ್ನು ಗಮನಿಸಬೇಕು
ಇದರ ಸಾರಾಂಶ ಸರಳವಾಗಿದೆ: AI ನೀಡುವ ಸೂಚನೆಯು ಖಾತರಿಯಲ್ಲ. ಪ್ರತಿಯೊಂದು ಹೊಸ ಡಿಪೆಂಡೆನ್ಸಿಯನ್ನು ಪರಿಶೀಲಿಸದ ಮೂರನೇ ವ್ಯಕ್ತಿಯ ಘಟಕವೆಂದು (unvetted third-party component) ಪರಿಗಣಿಸಿ, ಅದರ ಮೂಲವನ್ನು ಖಚಿತಪಡಿಸಿಕೊಳ್ಳಿ ಮತ್ತು ಕಾಲ್ಪನಿಕ ಪ್ಯಾಕೇಜ್ ಪ್ರೊಡಕ್ಷನ್‌ಗೆ ಸೇರುವ ಮೊದಲು ಸಪ್ಲೈ ಚೈನ್ ಮೇಲೆ ನಿಗಾ ಇರಿಸಿ.