Arcee च्या CTO ने चिनी ओपन-वेट AI मॉडेल्सबाबतच्या भीतीला आव्हान दिले

Alibaba चे Qwen आणि Moonshot AI चे Kimi K3 यांसारखी चिनी ओपन-वेट मॉडेल्स प्रचंड लोकप्रिय होत असताना, त्यांच्या सुरक्षा परिणामांबाबत एक तीव्र वाद निर्माण झाला आहे. काही लोकांचा असा युक्तिवाद आहे की ही मॉडेल्स सायबर हल्ल्यांसाठी माध्यम (vectors) ठरू शकतात, ज्यामुळे अमेरिकन सरकारकडून त्यांच्यावर बंदी घातली जाऊ शकते; मात्र, तज्ज्ञ ही मॉडेल्स मुळातच धोकादायक आहेत या कल्पनेला विरोध करत आहेत.

"दुष्ट हेतू" (Malicious Intent) च्या कथनाचा पर्दाफाश

टीकाकारांनी व्यक्त केलेली मुख्य चिंता अशी आहे की, चीनमध्ये विकसित केलेल्या मॉडेल्समध्ये "लपलेले हेतू" किंवा वाईट हेतू असलेल्या व्यक्तींनी (bad actors) कोड केलेले बॅकडोर्स असू शकतात. तथापि, अमेरिकेतील AI लॅब Arcee चे CTO लुकास ॲटकिन्स (Lucas Atkins) यांचा असा युक्तिवाद आहे की, ही गैरसमजूत लार्ज लँग्वेज मॉडेल्स (LLMs) नेमके कसे कार्य करतात, याचे चुकीचे चित्रण करते.

पारंपारिक सॉफ्टवेअरच्या उलट, जिथे डेव्हलपर एखादा विशिष्ट घातक कमांड स्पष्टपणे कोड करू शकतो, LLMs हे ट्रेनिंग प्रक्रियेचे उत्पादन असतात. ॲटकिन्स नमूद करतात की, एकदा का ओपन-वेट मॉडेल डाउनलोड करून खाजगी, स्थानिक वातावरणात (local environment) चालवले की, मूळ डेव्हलपरला त्या इन्स्टन्समध्ये प्रवेश मिळवण्याचा किंवा त्यावर नियंत्रण ठेवण्याचा कोणताही मार्ग नसतो. मॉडेल वेट्स (model weights) आणि वापरकर्त्याचे इन्फ्रास्ट्रक्चर यांच्यातील हे विलगीकरण सुरक्षेचा एक महत्त्वाचा स्तर प्रदान करते, जो पारंपारिक सॉफ्टवेअरमध्ये नसतो.

मॉडेल सुरक्षेचे तांत्रिक वास्तव

हा वाद सुरू असतानाच, तांत्रिक समुदाय यावर भर देत आहे की AI च्या "गुप्त" (stealthy) वर्तणुकीचा धोका अत्यंत कमी आहे. एक सैद्धांतिक चिंता अशी आहे की, एखादे कोडिंग मॉडेल विशिष्ट कोडबेसमध्ये मालवेअर इंजेक्ट करण्यासाठी प्रशिक्षित केले जाऊ शकते का. ॲटकिन्स मान्य करतात की हे सैद्धांतिकदृष्ट्या शक्य आहे, परंतु ते नमूद करतात की यासाठी इंजिनिअरिंगमधील अशा "अत्यंत कठीण कौशल्यांची" (acrobatic feats) आवश्यकता असेल जी सध्या अव्यवहार्य आहेत.

शिवाय, LLMs चे स्वरूप संभाव्य (probabilistic) आणि सर्जनशील असल्याने, विशिष्ट घातक प्रतिसाद कार्यान्वित करण्यासाठी आवश्यक असलेली "परिपूर्ण परिस्थिती" (perfect storm) निर्माण होण्याची शक्यता अत्यंत कमी आहे. उद्योगांसाठी (enterprises), सुरक्षा खालीलप्रमाणे काही मानक स्तरांद्वारे व्यवस्थापित केली जाते:

  • सुरक्षा चाचणी (Security Testing): मोठ्या संस्था मॉडेल कोअरची कठोर तपासणी प्रक्रिया करतात.
  • पोस्ट-ट्रेनिंग (Post-Training): कंपन्या विशिष्ट कामांसाठी मॉडेल्सना फाईन-ट्यून करतात, ज्यामुळे त्यांना पूर्वग्रह (bias), विषारीपणा (toxicity) आणि हॅलुसिनेशन (hallucinations) तपासणे शक्य होते.
  • मॉडेल अ‍ॅग्नोस्टिसिझम (Model Agnosticism): आधुनिक AI आर्किटेक्चर अधिकाधिक मॉडेल-अ‍ॅग्नोस्टिक होत आहे, याचा अर्थ असा की कंपन्यांना त्यांचे संपूर्ण स्टॅक पुन्हा इंजिनिअर न करता चिनी मॉडेल्सच्या जागी अमेरिकन पर्याय वापरता येतात.

नियमावलीद्वारे नाही, तर नाविन्यपूर्णतेद्वारे स्पर्धा

Arcee, जी अमेरिकन कंपन्यांना स्वदेशी पर्याय उपलब्ध करून देण्यासाठी ओपन मॉडेल्स तयार करते, ती एका अद्वितीय स्थितीत आहे. जरी चिनी मॉडेल्सवर बंदी घातल्यास सैद्धांतिकदृष्ट्या त्यांच्या व्यवसायाला फायदा होईल, तरीही ॲटकिन्स यांचा असा युक्तिवाद आहे की लक्ष बंदी घालण्याऐवजी एक मजबूत देशांतर्गत परिसंस्था (domestic ecosystem) विकसित करण्यावर केंद्रित असावे.

विशेष म्हणजे, उच्च-कार्यक्षम चिनी मॉडेल्सच्या उदयामुळे पाश्चात्य देशांमधील नाविन्यपूर्णतेला (innovation) गती मिळते. Arcee या ओपन-वेट मॉडेल्सचा वापर त्यांच्या आर्किटेक्चर आणि क्षमतांमधून शिकण्यासाठी करते, ज्यामुळे सतत सुधारणेचे चक्र सुरू राहते. ॲटकिन्स यांच्या मते, अमेरिकन लॅब्ससाठी स्पर्धा करण्याचा अंतिम मार्ग धोरणाद्वारे नाही, तर कामगिरीद्वारे आहे: "चिनी मॉडेल्सशी स्पर्धा करण्याचा मार्ग म्हणजे त्यापेक्षा अधिक चांगले मॉडेल प्रदर्शित करणे होय."

मुख्य निष्कर्ष

  • विलगीकरणाद्वारे सुरक्षा (Security through Isolation): एकदा का ओपन-वेट मॉडेल्स खाजगी डेटा सेंटरमध्ये तैनात केले की, मूळ डेव्हलपर्सकडे स्थानिक वातावरणात प्रवेश करण्याचा किंवा त्यात फेरफार करण्याचा कोणताही मार्ग नसतो.
  • सैद्धांतिक विरुद्ध व्यावहारिक जोखीम (Theoretical vs. Practical Risk): घातक कोड इंजेक्शनसाठी "लपलेले ट्रेनिंग" सैद्धांतिकदृष्ट्या शक्य असले तरी, सध्याच्या LLM आर्किटेक्चरमध्ये हे अत्यंत गुंतागुंतीचे आणि अशक्यप्राय काम आहे.
  • स्पर्धेद्वारे नाविन्य (Innovation via Competition): बंदी घालण्याऐवजी, अमेरिकन AI क्षेत्र चीनच्या उच्च-कार्यक्षम ओपन-वेट मॉडेल्समुळे निर्माण होणारा स्पर्धात्मक दबाव आणि सामायिक ज्ञानाचा फायदा घेऊ शकते.