सरकारों को AI मॉडल्स को कब नियंत्रित करना चाहिए?

Anthropic को हाल ही में एक बड़ी समस्या का सामना करना पड़ा। अमेरिकी सरकार ने एक निर्देश जारी किया कि विदेशी नागरिक उनके Fable 5 और Mythos 5 मॉडल्स का उपयोग न कर सकें। कानून का पालन करने के लिए, Anthropic ने सभी ग्राहकों के लिए एक्सेस (access) बंद कर दिया।

यह एक बहुत बड़ा बदलाव है।

Frontier AI अब केवल सॉफ्टवेयर नहीं रह गया है। यह रणनीतिक बुनियादी ढांचे (strategic infrastructure) का रूप ले रहा है। जब सॉफ्टवेयर बुनियादी ढांचा बन जाता है, तो सरकारें हस्तक्षेप करती हैं।

हम अक्सर AI को चैटबॉट्स या इमेज जनरेटर जैसी उत्पाद श्रेणी (product category) के रूप में देखते हैं। लेकिन असली बदलाव सतह के नीचे हो रहा है। आधुनिक AI सिस्टम कोड लिख सकते हैं, सुरक्षा खामियां (security holes) ढूंढ सकते हैं और वर्कफ़्लो चला सकते हैं। वे अर्ध-स्वायत्त (semi-autonomously) रूप से कार्य करते हैं।

यह जोखिम को बदल देता है। एक मानक ऐप को विनियमित (regulate) करना आसान है। लेकिन एक ऐसा सिस्टम जो साइबर हमलों को स्वचालित (automate) करता है, वह राष्ट्रीय सुरक्षा बुनियादी ढांचे जैसा दिखता है।

विनियमन (Regulation) के पक्ष में तर्क

यदि कोई मॉडल बायो-सिक्योरिटी जोखिमों, धोखाधड़ी या बड़े पैमाने पर निगरानी (mass surveillance) की गति बढ़ा देता है, तो अनियंत्रित पहुंच जोखिम भरी है। इंजीनियर पहले से ही रसायनों, सैन्य हार्डवेयर और महत्वपूर्ण बुनियादी ढांचे पर सीमाओं को स्वीकार करते हैं। यदि AI खतरे के परिदृश्य को बदल देता है, तो एक्सेस कंट्रोल (access controls) तर्कसंगत हैं।

अत्यधिक नियंत्रण के विरुद्ध तर्क

सरकारी नियंत्रण सीधा और राजनीतिक हो सकता है। अचानक लगाए गए प्रतिबंध शोधकर्ताओं, स्टार्टअप्स और इंजीनियरों को नुकसान पहुंचाते हैं। यह प्रतिस्पर्धा की समस्या भी पैदा करता है। यदि केवल बड़ी कंपनियां ही जटिल नियमों का पालन करने का खर्च उठा सकती हैं, तो इससे केंद्रीकरण (centralization) होगा। केंद्रीकरण से ऑडिट कम होते हैं और लचीलापन (resilience) भी कम हो जाता है।

समाधान: क्षमता-आधारित नियम

हमें मॉडल्स को हाइप या लोकप्रियता के आधार पर प्रतिबंधित नहीं करना चाहिए। हमें उन्हें इस आधार पर प्रतिबंधित करना चाहिए कि वे वास्तव में क्या कर सकते हैं।

ये प्रश्न पूछें:

• क्या यह सुरक्षा खामियों को ढूंढ सकता है और उनका फायदा उठा सकता है?
• क्या यह गैर-विशेषज्ञों के लिए हानिकारक कार्य कर सकता है?
• क्या यह बिना किसी पर्यवेक्षण (supervision) के विभिन्न सिस्टम्स में टूल्स चला सकता है?
• क्या यह दबाव में सुरक्षा गार्ड्स (safety guards) को बायपास कर देता है?

इंजीनियरों को इस बातचीत का नेतृत्व करना चाहिए। नीति केवल अमूर्त कानून (abstract law) नहीं हो सकती। इसके लिए मॉडल की क्षमता, टूल एक्सेस और परिनियोजन संदर्भ (deployment context) के तकनीकी ज्ञान की आवश्यकता होती है।

असली रणक्षेत्र: एक्सेस कंट्रोल

AI सुरक्षा केवल मॉडल वेट्स (model weights) के बारे में नहीं है। यह एक्सेस कंट्रोल के बारे में है।

सिस्टम का उपयोग कौन कर सकता है? यह एक क्लासिक इंजीनियरिंग समस्या है। एक नेचुरल लैंग्वेज प्रॉम्प्ट कई सिस्टम्स में क्रियाएं (actions) शुरू कर सकता है। अनुमतियां (Permissions) बुनियादी ढांचे का हिस्सा होनी चाहिए, न कि बाद में सोचने वाली बात। एक कमजोर प्रोडक्ट शेल के भीतर एक शक्तिशाली मॉडल खतरनाक है।

मेरा दृष्टिकोण

AI पर प्रतिबंध लगाना टिकाऊ नहीं है। बिना नियमों के सब कुछ जारी करना जिम्मेदार नहीं है।

हस्तक्षेप तब उचित है जब ये तीन चीजें मिलती हैं:

• उच्च क्षमता (High capability)
• दुरुपयोग की उच्च संभावना (High misuse potential)
• कम जवाबदेही (Low accountability)

लक्ष्य नवाचार (innovation) को रोके बिना आपदा को रोकना है।

AI के लिए नियम बनने से पहले ही यह बुनियादी ढांचा बनता जा रहा है। सिस्टम डिजाइन में आपके द्वारा किए गए चुनाव—अनुमतियां, लॉगिंग और मानवीय अनुमोदन (human approval)—यह तय करेंगे कि दुनिया AI पर कैसे शासन करती है।

AI नियंत्रण का भविष्य बुनियादी ढांचे (infrastructure) में लिखा जाएगा।

Source: https://dev.to/joshua-fields/when-should-governments-pull-the-plug-on-ai-models-ffo

वैकल्पिक लर्निंग कम्युनिटी: https://t.me/GyaanSetuAi