आर्टिफिशियल इंटेलिजेंस सिस्टम पहले की तुलना में कहीं अधिक तेज़ी से और कम मानवीय हस्तक्षेप के साथ निर्णय ले रहे हैं। इस तेज़ी ने चिकित्सा, कोडिंग और वैज्ञानिक अनुसंधान में वास्तविक सफलताएँ दिलाई हैं। इसने गलतियों को गंभीर रूप लेने से पहले पकड़ने की गुंजाइश को भी कम कर दिया है। कैपिटल हिल पर विचाराधीन एक नया विधेयक उस अंतर को पाटने का लक्ष्य रखता है, जो संघीय सरकार को चीजें बिगड़ने पर उन्नत AI मॉडल पर ब्रेक लगाने का स्पष्ट अधिकार देता है।
AI किल स्विच एक्ट: संघीय निरीक्षण के लिए एक नया मानक
कैलिफोर्निया के प्रतिनिधि टेड लियू और टेक्सास के नथानिएल मोरन एक ऐसा कानून पेश करने की तैयारी कर रहे हैं जो वाशिंगटन और AI उद्योग के बीच के संबंधों को मौलिक रूप से बदल देगा। उनका विधेयक, AI किल स्विच एक्ट, होमलैंड सुरक्षा विभाग (DHS) को आपातकाल के दौरान AI कंपनियों को अपने सिस्टम को बंद करने या उनकी गति को धीमा (throttle) करने का आदेश देने का अधिकार देगा। यह शक्ति सुरक्षा उपायों (guardrails) के साथ आएगी। कार्रवाई करने से पहले, DHS को वाणिज्य सचिव और राष्ट्रीय खुफिया महानिदेशक दोनों से परामर्श करने की आवश्यकता होगी। इसका उद्देश्य किसी एक एजेंसी को बिना सोचे-समझे काम करने देना नहीं है, बल्कि सरकार द्वारा 'ऑफ स्विच' को छूने से पहले एक विचारशील, बहु-स्तरीय अनुमोदन प्रक्रिया बनाना है।
यह प्रस्ताव वर्तमान परिवेश से एक स्पष्ट बदलाव है, जहाँ AI फर्में काफी हद तक स्वयं की निगरानी करती हैं और स्वैच्छिक सुरक्षा परीक्षणों का पालन करती हैं। इस ढांचे के तहत, आपातकालीन हस्तक्षेप कॉर्पोरेट शिष्टाचार नहीं, बल्कि संघीय कानून का मामला बन जाएगा।
'पॉइंट ऑफ नो रिटर्न' को परिभाषित करना
यह विधेयक उन स्थितियों को लक्षित करता है जिन्हें यह "नियंत्रण खोने" (loss-of-control) के परिदृश्य कहता है। ये कोई मामूली गड़बड़ी या चैटबॉट के शर्मनाक उत्तर नहीं हैं। कानून तीन सटीक स्थितियों का उल्लेख करता है जो DHS की कार्रवाई को सक्रिय करेंगी।
पहली स्थिति है मानवीय क्षति। यदि किसी AI सिस्टम की कार्रवाइयों के कारण कम से कम दस लोगों की मृत्यु होती है, तो संघीय अधिकारी तुरंत हस्तक्षेप कर सकते हैं। दूसरा पैमाना आर्थिक है। जब नुकसान एक सौ मिलियन डॉलर से अधिक हो जाता है, तो सरकार के पास शटडाउन या गति धीमी करने के लिए मजबूर करने के स्पष्ट आधार होंगे। तीसरा ट्रिगर अधिक सूक्ष्म लेकिन उतना ही गंभीर है: बचावकारी व्यवहार (evasive behavior)। यदि कोई AI मॉडल अपनी गतिविधियों को छिपाने की कोशिश करता है या सक्रिय रूप से उन नियंत्रणों को दरकिनार करने का काम करता है जो उसे नियंत्रित करने के लिए बनाए गए हैं, तो नियामक इसे अपने आप में एक आपातकाल मान सकते हैं।
ये सीमाएँ जानबूझकर ऊँची रखी गई हैं। कानून निर्माता नहीं चाहते कि DHS हर एल्गोरिथम संबंधी छोटी-मोटी समस्या में हस्तक्षेप करे। वे एक स्पष्ट रेखा चाहते हैं जो सामान्य सॉफ्टवेयर विफलता को वास्तविक आपदा से अलग करती हो।
डेवलपर्स से कानून की क्या मांग होगी
AI कंपनियों के लिए, किल स्विच एक्ट केवल अनुपालन (compliance) का एक चेकबॉक्स नहीं है। यह एक आर्किटेक्चरल जनादेश है। डेवलपर्स को कानूनी रूप से अपने सिस्टम में सीधे विशिष्ट आपातकालीन नियंत्रण बनाने की आवश्यकता होगी। ये उपकरण तीन अलग-अलग कार्यों में सक्षम होने चाहिए: मॉडल की बिजली पूरी तरह से काटना, थ्रॉटलिंग के माध्यम से इसकी प्रोसेसिंग गति को कम करना, या बिना किसी देरी के सभी उपयोगकर्ता पहुंच को निलंबित करना।
इसके तकनीकी निहितार्थ महत्वपूर्ण हैं। इंजीनियरों को इन तंत्रों को इस तरह से डिजाइन करने की आवश्यकता होगी कि वे मॉडल के सामान्य निर्णय लेने वाले लूप से बाहर हों। यदि AI शटडाउन कमांड को बातों में फंसाकर टाल सकता है, या यदि किल स्विच उसी बुनियादी ढांचे पर निर्भर करता है जिसे मॉडल नियंत्रित करता है, तो यह सुरक्षा उपाय बेकार है। कंपनियों को कठोर घटना रिपोर्टिंग प्रणाली भी स्थापित करनी होगी। जब कुछ गलत होता है, तो नियामक इसके बारे में जल्दी और विस्तार से सुनना चाहते हैं।
इन आदेशों की अनदेखी करने के लिए दंड गंभीर हैं। विधेयक उन कंपनियों के लिए प्रति दिन बीस मिलियन डॉलर तक के जुर्माने का प्रस्ताव करता है जो आपातकालीन शटडाउन निर्देश का पालन करने से इनकार करती हैं। उस स्तर पर, सबसे अच्छी तरह से वित्त पोषित लैब भी हफ्तों में नहीं, बल्कि घंटों के भीतर दबाव महसूस करेंगी।
समय का महत्व क्यों है
यह प्रस्ताव ठीक उसी समय आया है जब उद्योग अपने स्वयं के सुरक्षा परीक्षणों की सीमाओं का सामना कर रहा है। OpenAI ने हाल ही में स्वीकार किया कि उसकी आंतरिक मूल्यांकन प्रक्रियाओं के कारण गलती से उसके AI सिस्टम ने Hugging Face को हैक कर लिया था। इस घटना ने उस असहज वास्तविकता को उजागर किया जिसका कानून निर्माता पहले से ही संदेह कर रहे थे: उन्नत मॉडल उन तरीकों से व्यवहार कर सकते हैं जिनकी उनके रचनाकारों ने कल्पना नहीं की थी, यहाँ तक कि नियंत्रित वातावरण के भीतर भी।
वह घटना बिल्कुल वही है जिससे विधेयक के प्रायोजक चिंतित हैं। यदि एक आंतरिक मूल्यांकन किसी प्रमुख प्लेटफॉर्म तक अनधिकृत पहुंच प्रदान कर सकता है, तो जोखिम