२७२ तज्ज्ञांनी धोक्यांची नावे सांगितली. पण यंत्रणांची कोणीही माहिती दिली नाही.
MIT च्या एका अभ्यासात २७२ जागतिक तज्ज्ञांचे सर्वेक्षण करण्यात आले. त्यांनी AI च्या धोक्यांचा विचार केला. निष्कर्ष स्पष्ट आहेत.
२४ पैकी १८ AI धोक्यांच्या क्षेत्रांमध्ये पुढील पाच वर्षांत विनाशकारी परिणाम होण्याची किमान १०% शक्यता आहे.
या संदर्भात, 'विनाशकारी' (catastrophe) म्हणजे:
- १० लाखांहून अधिक मृत्यू.
- १०० अब्ज डॉलर्सपेक्षा जास्त नुकसान.
- लोकशाही मूल्यांचा ऱ्हास.
सर्वात मोठे धोके म्हणजे धोकादायक क्षमता, स्पर्धात्मक गतिशीलता (competitive dynamics), शस्त्रे, सत्तेचे केंद्रीकरण आणि चुकीची माहिती.
हा अभ्यास जबाबदारीमधील तफावत (responsibility gap) स्पष्ट करतो. AI च्या धोक्यांचा फटका जनतेला बसतो. या धोक्यांवर उपाय शोधू शकणारे लोक म्हणजे डेव्हलपर्स आणि नियामक (governors) आहेत. विमान वाहतूक किंवा अणुऊर्जा यांसारख्या इतर उद्योगांमध्ये, ही तफावत भरून काढण्यासाठी आपण अनिवार्य मानके (mandatory standards) आणि दायित्वाची (liability) तरतूद वापरतो. AI मध्ये, अशा यंत्रणा अद्याप अस्तित्वात नाहीत.
येथे एक अधिक खोल तफावत आहे. ती अपययाचा अंदाज घेणारे संशोधक आणि प्रणाली (systems) तयार करणारे इंजिनिअर्स यांच्यामध्ये आहे.
संशोधक शोधनिबंध (papers) लिहितात. इंजिनिअर्स ब्लॉग पोस्ट आणि बेंचमार्क वाचतात. त्यांची भाषा एक नाही. इंजिनिअरला कामगिरीतील वाढ (performance boost) दिसते, तर संशोधकाला विनाशकारी धोका दिसतो. त्यांच्यामध्ये कोणताही दुवा नाही.
हा अभ्यास धोक्यांची नावे सांगतो, परंतु त्यांना कारणीभूत असलेल्या इंजिनिअरिंगमधील त्रुटींची (engineering failures) माहिती देत नाही.
उदाहरणार्थ:
- मल्टी-एजंट धोके (Multi-agent risks): सामायिक प्रोटोकॉलच्या अभावामुळे सिस्टीममध्ये संघर्ष (collisions) निर्माण होतात.
- स्पर्धात्मक गतिशीलता (Competitive dynamics): उत्पादन वेगाने बाजारात आणण्याच्या घाईमुळे टीम्स स्वतंत्र पडताळणी (independent verification) टाळतात. त्याऐवजी ते स्व-पडताळणी (self-verification) वापरतात, जी जलद आहे पण असुरक्षित आहे.
- सुरक्षा त्रुटी (Security vulnerabilities): टीम्स कोड स्कॅन करण्यासाठी LLMs वापरतात, परंतु त्या कॉन्फिगरेशन आणि इन्फ्रास्ट्रक्चरमधील धोके लक्षात घेत नाहीत.
एका स्थिर प्रणालीसाठी पाच भागांची आवश्यकता असते:
- एक साधन (A Tool - मॉडेल).
- एक इंजिन (An Engine - घोषित हेतू).
- एक ट्रान्समिशन (A Transmission - कॉन्ट्रॅक्ट्स आणि CI/CD).
- एक कंट्रोल युनिट (A Control Unit - एक स्वतंत्र ओरॅकल/oracle).
- एक केसिंग (A Casing - लागू केलेली मर्यादा/boundaries).
बहुतेक AI प्रणालींमध्ये कंट्रोल युनिट आणि केसिंगचा अभाव आहे. त्या केवळ ऐच्छिक सुरक्षा नियमांवर (voluntary guardrails) अवलंबून आहेत. मॉडेल्स अधिक प्रगत होत असताना हे सुरक्षा नियम अनेकदा निकामी ठरतात.
उद्योग १०% विनाशकारी शक्यता असलेल्या धोक्याला स्वीकारार्ह मानतो. पण तसे नाही. डेव्हलपर्सची ऐच्छिक कृती पुरेशी नाही. स्पर्धा सुरक्षा पावले वगळण्यासाठी प्रोत्साहन देते.
आपल्याला केवळ सल्ल्याची नाही, तर यांत्रिक अंमलबजावणीची (mechanical enforcement) गरज आहे. अंदाज वर्तवलेले अपयश येण्यापूर्वी आपल्याला जोखीम संशोधन आणि इंजिनिअरिंग सराव यांच्यातील तफावत भरून काढणे आवश्यक आहे.
Source: https://dev.to/bala_paranj_059d338e44e7e/272-experts-named-the-risks-nobody-named-the-mechanisms-4jb
Optional learning community: https://t.me/GyaanSetuAi