ಮೂರು ಪದಗಳು
ಒಬ್ಬ ಸಂಶೋಧಕರು Anthropic ನ ಅತ್ಯಂತ ಶಕ್ತಿಯುತ AI ಮಾಡೆಲ್ಗೆ ಮೂರು ಪದಗಳನ್ನು ಟೈಪ್ ಮಾಡಿದರು: fix this code.
ತೊಂಬತ್ತು ನಿಮಿಷಗಳ ಒಳಗೆ, ಅಮೇರಿಕಾದ ಸರ್ಕಾರವು ಆ ಮಾಡೆಲ್ ಅನ್ನು ಸ್ಥಗಿತಗೊಳಿಸಿತು.
ಆ ದೌರ್ಬಲ್ಯವು ಒಂದು ಸರಳ ಪ್ರಾಂಪ್ಟ್ ಆಗಿತ್ತು. ಅದು ಸಂಕೀರ್ಣವಾದ ದಾಳಿಯಾಗಿರಲಿಲ್ಲ. ಅದರ ಸುರಕ್ಷತಾ ವ್ಯವಸ್ಥೆಗಳು ತಡೆಯಬೇಕಾಗಿದ್ದ ಸೈಬರ್ ಸುರಕ್ಷತಾ ಡೇಟಾವನ್ನು ಆ ಮಾಡೆಲ್ ಒದಗಿಸಿತು.
ವಾಣಿಜ್ಯ ಇಲಾಖೆಯು (Commerce Department) ಮಾಡೆಲ್ ಅನ್ನು ತಡೆಯಲು ರಫ್ತು ನಿಯಂತ್ರಣ ಅಧಿಕಾರವನ್ನು ಬಳಸಿತು. ಎಲ್ಲಾ ವಿದೇಶಿ ನಾಗರಿಕರು ಅದನ್ನು ಬಳಸದಂತೆ ತಡೆಯಲು ಅವರು Anthropic ಗೆ ಆದೇಶಿಸಿದರು. ಇದರಲ್ಲಿ Anthropic ನ ಸ್ವಂತ ಎಂಜಿನಿಯರ್ಗಳೂ ಸೇರಿದ್ದರು. ತನ್ನ ಸ್ವಂತ ಸಿಬ್ಬಂದಿಯನ್ನು ಹೊರಗಿಡುವುದನ್ನು ತಪ್ಪಿಸಲು Anthropic ಮಾಡೆಲ್ಗಳನ್ನು ಆಫ್ಲೈನ್ ಮಾಡಿತು.
ಅಧಿಕೃತ ಕಾರಣ ರಾಷ್ಟ್ರೀಯ ಭದ್ರತೆಯಾಗಿತ್ತು. ಆದರೆ ಈ ಕಥೆಯು ಮತ್ತಷ್ಟು ಆಳವಾದ ವಿಚಾರವನ್ನು ಹೊಂದಿದೆ.
ಅಮೆಜಾನ್ (Amazon) ಈ ಬೈಪಾಸ್ ಅನ್ನು ಪತ್ತೆಹಚ್ಚಿತು. ಅಮೆಜಾನ್ ಸಿಇಒ ಆಂಡಿ ಜಾಸ್ಸಿ ಅವರು ಸರ್ಕಾರಿ ಅಧಿಕಾರಿಗಳಿಗೆ ಇದರ ಬಗ್ಗೆ ತಿಳಿಸಿದರು.
ಅಮೆಜಾನ್ Anthropic ನಲ್ಲಿ ದೊಡ್ಡ ಮಟ್ಟದ ಹೂಡಿಕೆದಾರನಾಗಿದೆ. Anthropic ಬಳಸುವ ಕ್ಲೌಡ್ ಮೂಲಸೌಕರ್ಯವನ್ನೂ ಅಮೆಜಾನ್ ಒದಗಿಸುತ್ತದೆ. ಎಲ್ಲಕ್ಕಿಂತ ಮುಖ್ಯವಾಗಿ, ಅಮೆಜಾನ್ನ ಸ್ವಂತ AI ಉತ್ಪನ್ನಗಳು Anthropic ನೊಂದಿಗೆ ಸ್ಪರ್ಧಿಸುತ್ತವೆ.
ಈ ಸಂಶೋಧನೆಯು ಸ್ಪರ್ಧಾತ್ಮಕ ಕಂಪನಿಯಿಂದ ನೇರವಾಗಿ ಸರ್ಕಾರಕ್ಕೆ ತಲುಪಿತು. ಇದು ಮಾಡೆಲ್ ನಿರ್ಮಿಸಿದ ಕಂಪನಿಯನ್ನು ಮೀರಿ ಹೋಯಿತು.
ಈ ಘಟನೆಯು ಮೂರು ಪ್ರಮುಖ ವಿಷಯಗಳನ್ನು ತೋರಿಸುತ್ತದೆ:
ಬ್ರ್ಯಾಂಡ್ ರಿಸ್ಕ್ (Brand risk): Anthropic ತನ್ನ ಹೆಸರನ್ನು ಸುರಕ್ಷತೆಯ ಮೇಲೆ ಕಟ್ಟಿಕೊಂಡಿದೆ. ಒಂದು "ಸುರಕ್ಷಿತ" ಮಾಡೆಲ್ ವಿಫಲವಾದಾಗ, ಅದರ ರಾಜಕೀಯ ವೆಚ್ಚವು ಹೆಚ್ಚಾಗಿರುತ್ತದೆ. ಬ್ರ್ಯಾಂಡ್ ಒಂದು ಹೊರೆಯಾಗಿ ಪರಿಣಮಿಸುತ್ತದೆ.
ಹೊಸ ಅಧಿಕಾರ ರಚನೆಗಳು (New power structures): ಅಮೆಜಾನ್ ಹೂಡಿಕೆದಾರ, ಪೂರೈಕೆದಾರ ಮತ್ತು ಸ್ಪರ್ಧಿಯಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ. ಬೇರೆ ಯಾವುದೇ ಉದ್ಯಮದಲ್ಲಿ ಇಂತಹ ವ್ಯವಸ್ಥೆ ಇಲ್ಲ. ಸ್ಪರ್ಧಾತ್ಮಕ ಕಂಪನಿಯಿಂದ ಬರುವ ಒಂದು ಫೋನ್ ಕರೆ ಕಂಪನಿಯನ್ನು ಮುಚ್ಚಲು ಕಾನೂನು ಪ್ರಕ್ರಿಯೆಯನ್ನು ಪ್ರಾರಂಭಿಸಬಹುದು.
ಕ್ಷಿಪ್ರ ಮಧ್ಯಸ್ಥಿಕೆ (Rapid intervention): ಎರಡು ಗಂಟೆಗಳಿಗಿಂತ ಕಡಿಮೆ ಅವಧಿಯಲ್ಲಿ ಒಂದು AI ಕಂಪನಿಯು ತನ್ನ ಮುಖ್ಯ ಉತ್ಪನ್ನವನ್ನು ಸ್ಥಗಿತಗೊಳಿಸುವಂತೆ ಮಾಡಲು ತಮಗೆ ಸಾಧ್ಯ ಎಂದು ಸರ್ಕಾರವು ಸಾಬೀತುಪಡಿಸಿತು. ಇದಕ್ಕೆ ಯಾವುದೇ ಮುನ್ಸೂಚನೆ ಅಥವಾ ಮೇಲ್ಮನವಿ ಸಲ್ಲಿಸುವ ಪ್ರಕ್ರಿಯೆ ಇರಲಿಲ್ಲ.
AI ಕಂಪನಿಗಳು ತಾವು ಸ್ವಯಂ ನಿಯಂತ್ರಣವನ್ನು ಹೊಂದುತ್ತೇವೆ ಅಥವಾ ಸರ್ಕಾರದ ನೀತಿಯನ್ನು ಎದುರಿಸುತ್ತೇವೆ ಎಂದು ಭಾವಿಸಿದ್ದವು. ಅವು ಮೂರನೇ ಆಯ್ಕೆಯನ್ನು ಯೋಜಿಸಿರಲಿಲ್ಲ.
ಕಾರ್ಪೊರೇಟ್ ಗುಪ್ತಚರ ಮಾಹಿತಿಯಿಂದ ಪ್ರೇರಿತವಾದ ಹಠಾತ್ ಮಧ್ಯಸ್ಥಿಕೆಯ ಮೂಲಕ ನಿಯಂತ್ರಣವನ್ನು ಎದುರಿಸಬೇಕಾಗುತ್ತದೆ ಎಂದು ಅವು ಯೋಜಿಸಿರಲಿಲ್ಲ.
ಸುರಕ್ಷತಾ ಸಂಶೋಧಕರು AI ಗಾಗಿ ಗಾರ್ಡ್ರೈಲ್ಗಳನ್ನು (guardrails) ಬಯಸಿದ್ದರು. ಆದರೆ ಅವುಗಳನ್ನು ವಾಸ್ತವವಾಗಿ ಯಾರು ನಿರ್ಮಿಸುತ್ತಾರೆ ಎಂಬುದನ್ನು ಅವರು ಅರಿಯಲು ವಿಫಲರಾದರು.
ಮೂಲ: https://dev.to/thesythesis/the-three-words-3ijl
ಐ