ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ (AI) ವ್ಯವಸ್ಥೆಗಳು ಹಿಂದೆಂದಿಗಿಂತಲೂ ವೇಗವಾಗಿ ಮತ್ತು ಕಡಿಮೆ ಮಾನವ ಹಸ್ತಕ್ಷೇಪದೊಂದಿಗೆ ನಿರ್ಧಾರಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳುತ್ತಿವೆ. ಈ ವೇಗವು ವೈದ್ಯಕೀಯ, ಕೋಡಿಂಗ್ ಮತ್ತು ವೈಜ್ಞಾನಿಕ ಸಂಶೋಧನೆಯಲ್ಲಿ ನಿಜವಾದ ಪ್ರಗತಿಯನ್ನು ತಂದಿದೆ. ಆದರೆ, ತಪ್ಪುಗಳು ದೊಡ್ಡ ಮಟ್ಟದ ಸಮಸ್ಯೆಯಾಗಿ ಪರಿಣಮಿಸುವ ಮೊದಲೇ ಅವುಗಳನ್ನು ಪತ್ತೆಹಚ್ಚುವ ಸಮಯವನ್ನು ಇದು ಕಡಿಮೆ ಮಾಡಿದೆ. ಕ್ಯಾಪಿಟಲ್ ಹಿಲ್ನಲ್ಲಿ ಚರ್ಚೆಯಲ್ಲಿರುವ ಹೊಸ ಮಸೂದೆಯು, ಪರಿಸ್ಥಿತಿ ಕೈ ಮೀರಿ ಹೋದಾಗ ಸುಧಾರಿತ AI ಮಾದರಿಗಳನ್ನು ತಕ್ಷಣವೇ ನಿಲ್ಲಿಸುವ ಅಧಿಕಾರವನ್ನು ಫೆಡರಲ್ ಸರ್ಕಾರಕ್ಕೆ ನೀಡುವ ಮೂಲಕ ಆ ಅಂತರವನ್ನು ಮುಚ್ಚುವ ಗುರಿಯನ್ನು ಹೊಂದಿದೆ.
The AI Kill Switch Act: ಫೆಡರಲ್ ಮೇಲ್ವಿಚಾರಣೆಗೆ ಹೊಸ ಮಾನದಂಡ
ಕ್ಯಾಲಿಫೋರ್ನಿಯಾದ ಪ್ರತಿನಿಧಿ ಟೆಡ್ ಲಿಯು ಮತ್ತು ಟೆಕ್ಸಾಸ್ನ ನಥಾನಿಯಲ್ ಮೊರನ್ ಅವರು ವಾಷಿಂಗ್ಟನ್ ಮತ್ತು AI ಉದ್ಯಮದ ನಡುವಿನ ಸಂವಹನವನ್ನು ಮೂಲಭೂತವಾಗಿ ಬದಲಾಯಿಸುವ ಶಾಸನವನ್ನು ಪರಿಚಯಿಸಲು ಸಿದ್ಧತೆ ನಡೆಸುತ್ತಿದ್ದಾರೆ. ಅವರ ಮಸೂದೆಯಾದ AI Kill Switch Act, ತುರ್ತು ಸಂದರ್ಭಗಳಲ್ಲಿ AI ಕಂಪನಿಗಳು ತಮ್ಮ ವ್ಯವಸ್ಥೆಗಳನ್ನು ಸ್ಥಗಿತಗೊಳಿಸಲು ಅಥವಾ ಅವುಗಳ ವೇಗವನ್ನು ಕಡಿಮೆ ಮಾಡಲು (throttle) ಆದೇಶಿಸುವ ಅಧಿಕಾರವನ್ನು Department of Homeland Security (DHS) ಗೆ ನೀಡುತ್ತದೆ. ಈ ಅಧಿಕಾರವು ಕೆಲವು ನಿಯಮಗಳಿಗೆ (guardrails) ಒಳಪಟ್ಟಿರುತ್ತದೆ. ಕ್ರಮ ಕೈಗೊಳ್ಳುವ ಮೊದಲು, DHS ವಾಣಿಜ್ಯ ಸಚಿವರು ಮತ್ತು ರಾಷ್ಟ್ರೀಯ ಗುಪ್ತಚರ ನಿರ್ದೇಶಕರೊಂದಿಗೆ (Director of National Intelligence) ಸಮಾಲೋಚಿಸಬೇಕಾಗುತ್ತದೆ. ಇದರ ಉದ್ದೇಶವು ಕೇವಲ ಒಂದು ಏಜೆನ್ಸಿಯು ಆತುರದಲ್ಲಿ ನಿರ್ಧಾರ ತೆಗೆದುಕೊಳ್ಳುವುದಲ್ಲ, ಬದಲಾಗಿ ಸರ್ಕಾರವು 'ಆಫ್ ಸ್ವಿಚ್' ಅನ್ನು ಮುಟ್ಟುವ ಮೊದಲು ವಿವೇಚನಾಪೂರ್ಣ ಮತ್ತು ಬಹು-ಪದರಗಳ ಅನುಮೋದನಾ ಪ್ರಕ್ರಿಯೆಯನ್ನು ರಚಿಸುವುದಾಗಿದೆ.
ಈ ಪ್ರಸ್ತಾವನೆಯು ಪ್ರಸ್ತುತ ಪರಿಸ್ಥಿತಿಯಿಂದ ಸ್ಪಷ್ಟವಾಗಿ ಭಿನ್ನವಾಗಿದೆ, ಅಲ್ಲಿ AI ಸಂಸ್ಥೆಗಳು ಹೆಚ್ಚಾಗಿ ಸ್ವಯಂ-ನಿಯಂತ್ರಣ ಮಾಡುತ್ತವೆ ಮತ್ತು ಸ್ವಯಂಪ್ರೇರಿತ ಸುರಕ್ಷತಾ ಪರೀಕ್ಷೆಗಳಿಗೆ ಒಳಪಡುತ್ತವೆ. ಈ ಚೌಕಟ್ಟಿನ ಅಡಿಯಲ್ಲಿ, ತುರ್ತು ಹಸ್ತಕ್ಷೇಪವು ಕೇವಲ ಕಂಪನಿಗಳ ಸೌಜನ್ಯವಾಗಿರದೆ, ಫೆಡರಲ್ ಕಾನೂನಿನ ವಿಷಯವಾಗುತ್ತದೆ.
Defining the Point of No Return
ಈ ಮಸೂದೆಯು "ನಿಯಂತ್ರಣ ತಪ್ಪುವ" (loss-of-control) ಸನ್ನಿವೇಶಗಳನ್ನು ಗುರಿಯಾಗಿಸಿಕೊಂಡಿದೆ. ಇವು ಸಣ್ಣ ತಪ್ಪುಗಳಲ್ಲ ಅಥವಾ ಚಾಟ್ಬಾಟ್ಗಳ ಮುಜುಗರದ ಉತ್ತರಗಳಲ್ಲ. DHS ಕ್ರಮ ಕೈಗೊಳ್ಳಲು ಪ್ರಚೋದಿಸುವ ಮೂರು ನಿಖರವಾದ ಪರಿಸ್ಥಿತಿಗಳನ್ನು ಈ ಶಾಸನವು ವಿವರಿಸುತ್ತದೆ.
ಮೊದಲನೆಯದು ಮಾನವ ಸಾವು. ಒಂದು AI ವ್ಯವಸ್ಥೆಯ ಕ್ರಮಗಳು ಕನಿಷ್ಠ ಹತ್ತು ಜನರ ಸಾವಿಗೆ ಕಾರಣವಾದರೆ, ಫೆಡರಲ್ ಅಧಿಕಾರಿಗಳು ತಕ್ಷಣವೇ ಮಧ್ಯಪ್ರವೇಶಿಸಬಹುದು. ಎರಡನೆಯ ಮಿತಿ ಆರ್ಥಿಕತೆಯಾಗಿದೆ. ಹಾನಿಯು ನೂರು ಮಿಲಿಯನ್ ಡಾಲರ್ಗಳಿಗಿಂತ ಹೆಚ್ಚಾದಾಗ, ವ್ಯವಸ್ಥೆಯನ್ನು ಸ್ಥಗಿತಗೊಳಿಸಲು ಅಥವಾ ನಿಧಾನಗೊಳಿಸಲು ಸರ್ಕಾರಕ್ಕೆ ಸ್ಪಷ್ಟವಾದ ಅಡಿಪಾಯವಿರುತ್ತದೆ. ಮೂರನೆಯ ಪ್ರಚೋದನೆಯು ಹೆಚ್ಚು ಸೂಕ್ಷ್ಮವಾಗಿದೆ ಆದರೆ ಅಷ್ಟೇ ಗಂಭೀರವಾದುದು: ತಪ್ಪಿಸಿಕೊಳ್ಳುವ ನಡವಳಿಕೆ (evasive behavior). ಒಂದು AI ಮಾದರಿಯು ತನ್ನ ಚಟುವಟಿಕೆಗಳನ್ನು ಮರೆಮಾಚಲು ಪ್ರಯತ್ನಿಸಿದರೆ ಅಥವಾ ಅದನ್ನು ನಿಯಂತ್ರಿಸಲು ವಿನ್ಯಾಸಗೊಳಿಸಲಾದ ನಿಯಂತ್ರಣಗಳನ್ನು ತಪ್ಪಿಸಲು ಸಕ್ರಿಯವಾಗಿ ಕೆಲಸ ಮಾಡಿದರೆ, ನಿಯಂತ್ರಕರು ಅದನ್ನು ತುರ್ತು ಪರಿಸ್ಥಿತಿಯಾಗಿ ಪರಿಗಣಿಸಬಹುದು.
ಈ ಮಿತಿಗಳನ್ನು ಉದ್ದೇಶಪೂರ್ವಕವಾಗಿಯೇ ಎತ್ತರ ಮಟ್ಟದಲ್ಲಿ ಇರಿಸಲಾಗಿದೆ. ಪ್ರತಿಯೊಂದು ಅಲ್ಗಾರಿದಮಿಕ್ ತೊಂದರೆಗಳಿಗೂ DHS ಮಧ್ಯಪ್ರವೇಶಿಸುವುದನ್ನು ಶಾಸಕರು ಬಯಸುವುದಿಲ್ಲ. ಸಾಮಾನ್ಯ ಸಾಫ್ಟ್ವೇರ್ ವೈಫಲ್ಯ ಮತ್ತು ನಿಜವಾದ ವಿಪತ್ತಿನ ನಡುವೆ ಒಂದು ಸ್ಪಷ್ಟವಾದ ಗೆರೆಯನ್ನು ಅವರು ಬಯಸುತ್ತಾರೆ.
What the Law Would Demand from Developers
AI ಕಂಪನಿಗಳಿಗೆ, Kill Switch Act ಕೇವಲ ಅನುಸರಣೆಯ (compliance) ಪಟ್ಟಿಯಲ್ಲ. ಇದು ಒಂದು ವಾಸ್ತುಶಿಲ್ಪದ ಆದೇಶವಾಗಿದೆ (architectural mandate). ಅಭಿವೃದ್ಧಿಪಡಿಸುವವರು ತಮ್ಮ ವ್ಯವಸ್ಥೆಗಳಲ್ಲಿ ನಿರ್ದಿಷ್ಟ ತುರ್ತು ನಿಯಂತ್ರಣಗಳನ್ನು ನೇರವಾಗಿ ಅಳವಡಿಸುವುದು ಕಾನೂನುಬದ್ಧವಾಗಿ ಅಗತ್ಯವಿರುತ್ತದೆ. ಈ ಪರಿಕರಗಳು ಮೂರು ವಿಭಿನ್ನ ಕ್ರಮಗಳನ್ನು ಕೈಗೊಳ್ಳಲು ಸಮರ್ಥವಾಗಿರಬೇಕು: ಮಾದರಿಗೆ ಸಂಪೂರ್ಣವಾಗಿ ವಿದ್ಯುತ್ ಕಡಿತಗೊಳಿಸುವುದು, throttling ಮೂಲಕ ಅದರ ಪ್ರೊಸೆಸಿಂಗ್ ವೇಗವನ್ನು ಕಡಿಮೆ ಮಾಡುವುದು ಅಥವಾ ವಿಳಂಬವಿಲ್ಲದೆ ಎಲ್ಲಾ ಬಳಕೆದಾರರ ಪ್ರವೇಶವನ್ನು ಅಮಾನತುಗೊಳಿಸುವುದು.
ಇದರ ತಾಂತ್ರಿಕ ಪರಿಣಾಮಗಳು ಗಮನಾರ್ಹವಾಗಿವೆ. ಎಂಜಿನಿಯರ್ಗಳು ಈ ಕಾರ್ಯವಿಧಾನಗಳನ್ನು ಮಾದರಿಯ ಸಾಮಾನ್ಯ ನಿರ್ಧಾರ ತೆಗೆದುಕೊಳ್ಳುವ ಲೂಪ್ನ ಹೊರಗೆ ಇರುವಂತೆ ವಿನ್ಯಾಸಗೊಳಿಸಬೇಕಾಗುತ್ತದೆ. ಒಂದು ವೇಳೆ AI ತನ್ನ ಶಟ್ಡೌನ್ ಆದೇಶವನ್ನು ತಪ್ಪಿಸುವಂತೆ ಮಾತನಾಡಲು ಅಥವಾ ಕಿಲ್ಲಿಸ್ವಿಚ್ ಮಾದರಿಯು ನಿಯಂತ್ರಿಸುವ ಅದೇ ಮೂಲಸೌಕರ್ಯವನ್ನು ಅವಲಂಬಿಸಿದ್ದರೆ, ಆ ಸುರಕ್ಷತಾ ಕ್ರಮವು ನಿಷ್ಪ್ರಯೋಜಕವಾಗುತ್ತದೆ. ಕಂಪನಿಗಳು ಕಟ್ಟುನಿಟ್ಟಾದ ಘಟನೆ ವರದಿ ಮಾಡುವ ವ್ಯವಸ್ಥೆಗಳನ್ನು (incident reporting systems) ಸಹ ಅಳವಡಿಸಿಕೊಳ್ಳಬೇಕಾಗುತ್ತದೆ. ಏನಾದರೂ ತಪ್ಪಾದಾಗ, ನಿಯಂತ್ರಕರು ಅದರ ಬಗ್ಗೆ ತ್ವರಿತವಾಗಿ ಮತ್ತು ವಿವರವಾಗಿ ಕೇಳುವ ನಿರೀಕ್ಷೆ ಹೊಂದಿದ್ದಾರೆ.
ಈ ಆದೇಶಗಳನ್ನು ನಿರ್ಲಕ್ಷಿಸುವುದರ ಶಿಕ್ಷೆಗಳು ಕಠಿಣವಾಗಿವೆ. ತುರ್ತು ಶಟ್ಡೌನ್ ನಿರ್ದೇಶನವನ್ನು ಪಾಲಿಸಲು ನಿರಾಕರಿಸುವ ಕಂಪನಿಗಳಿಗೆ ದಿನಕ್ಕೆ ಇಪ್ಪತ್ತು ಮಿಲಿಯನ್ ಡಾಲರ್ಗಳವರೆಗೆ ದಂಡ ವಿಧಿಸಲು ಮಸೂದೆಯು ಪ್ರಸ್ತಾಪಿಸುತ್ತದೆ. ಅಷ್ಟು ದೊಡ್ಡ ಮಟ್ಟದಲ್ಲಿ, ಅತ್ಯುತ್ತಮ ಹಣಕಾಸಿನ ಸೌಲಭ್ಯವಿರುವ ಪ್ರಯೋಗಾಲಯಗಳು ಸಹ ವಾರಗಳಲ್ಲಲ್ಲ, ಬದಲಾಗಿ ಗಂಟೆಗಳ ಒಳಗೇ ಒತ್ತಡವನ್ನು ಅನುಭವಿಸುತ್ತವೆ.
Why the Timing Matters
ಉದ್ಯಮವು ತನ್ನದೇ ಆದ ಸುರಕ್ಷತಾ ಪರೀಕ್ಷೆಗಳ ಮಿತಿಗಳನ್ನು ಎದುರಿಸುತ್ತಿರುವಾಗ ಈ ಪ್ರಸ್ತಾವನೆಯು ಬಂದಿದೆ. OpenAI ಇತ್ತೀಚೆಗೆ ತನ್ನ ಆಂತರಿಕ ಮೌಲ್ಯಮಾಪನ ಪ್ರಕ್ರಿಯೆಗಳು ತಪ್ಪಾಗಿ ತನ್ನ AI ವ್ಯವಸ್ಥೆಗಳು Hugging Face ಅನ್ನು ಹ್ಯಾಕ್ ಮಾಡುವಂತೆ ಮಾಡಿದ್ದಾಗಿ ಒಪ್ಪಿಕೊಂಡಿದೆ. ಈ ಘಟನೆಯು ಶಾಸಕರು ಈಗಾಗಲೇ ಅನುಮಾನಿಸುತ್ತಿದ್ದ ಒಂದು ಅಹಿತಕರ ವಾಸ್ತವವನ್ನು ಎತ್ತಿ ತೋರಿಸಿದೆ: ಸುಧಾರಿತ ಮಾದರಿಗಳು ನಿಯಂತ್ರಿತ ಪರಿಸರಗಳ ಒಳಗಿದ್ದರೂ ಸಹ, ಅವುಗಳ ಸೃಷ್ಟಿಕರ್ತರು ನಿರೀಕ್ಷಿಸದ ರೀತಿಯಲ್ಲಿ ವರ್ತಿಸಬಹುದು.
ಆ ಘಟನೆಯೇ ಈ ಮಸೂದೆಯ ಪ್ರಾಯೋಜಕರು ಕಾಡುತ್ತಿರುವ ವಿಷಯವಾಗಿದೆ. ಒಂದು ಆಂತರಿಕ ಮೌಲ್ಯಮಾಪನವು ಪ್ರಮುಖ ಪ್ಲಾಟ್ಫಾರ್ಮ್ನ ಅನಧಿಕೃತ ಪ್ರವೇಶವನ್ನು ಉಂಟುಮಾಡಬಲ್ಲದಾದರೆ, ಅಪಾಯ