Anthropic च्या Fable आणि Mythos मॉडेल्सवरील अमेरिकन बंदीचा सायबर सुरक्षा तज्ज्ञांचा निषेध

७६ आघाडीच्या सायबर सुरक्षा तज्ज्ञांच्या एका युतीने Anthropic च्या सर्वात प्रगत AI मॉडेल्सना लक्ष्य करणाऱ्या अमेरिकन सरकारच्या अलीकडील निर्यात नियंत्रण आदेशाविरुद्ध (export control order) इशारा दिला आहे. या साधनांचा प्रवेश मर्यादित करून, सरकार नकळतपणे डिजिटल रक्षकना निशस्त्र करत आहे, तर शत्रू प्रगती करत आहेत, असा युक्तिवाद हा समूह करत आहे.

संघर्ष: राष्ट्रीय सुरक्षा विरुद्ध बचावात्मक क्षमता

जेव्हा अमेरिकन सरकारने अघोषित राष्ट्रीय सुरक्षा चिंतांचे कारण देत Anthropic च्या Fable आणि Mythos मॉडेल्सवर निर्यात नियंत्रण आदेश जारी केला, तेव्हा हा तणाव सुरू झाला. या आदेशाचे पालन करण्यासाठी, Anthropic ने या मॉडेल्सचा जगभरातील प्रवेश स्थगित केला आहे.

Mythos मॉडेल मूळतः असुरक्षितता शोधण्यासाठी (vulnerability discovery) इतक्या उच्च-स्तरीय क्षमतांसह डिझाइन केले होते की, Anthropic ने सुरुवातीला १५ देशांमधील सुमारे १५० संस्थांच्या निवडक गटासाठीच त्याचा प्रवेश मर्यादित केला होता. सार्वजनिक आवृत्ती, Fable, मध्ये जीवशास्त्र, रसायनशास्त्र आणि सायबर सुरक्षा या क्षेत्रांमधील गैरवापर रोखण्यासाठी कडक सुरक्षा उपाय (guardrails) समाविष्ट करण्याचा उद्देश होता. तथापि, सरकारच्या हस्तक्षेपाने इंटरनेट सुरक्षित ठेवण्याचे काम करणाऱ्या लोकांसाठीच या शक्तिशाली साधनांचा वापर थांबवला आहे.

"Jailbreak" वाद आणि Amazon चा शोधनिबंध

Anthropic च्या मते, व्हाईट हाऊसचा हा आदेश "jailbreaking" संदर्भातील चिंतेतून उद्भवला असावा—जी सुरक्षा उपाय (guardrails) बायपास करण्यासाठी वापरली जाणारी पद्धत आहे. ही चिंता ॲमेझॉनच्या संशोधकांनी लिहिलेल्या एका बिगर-सार्वजनिक शोधनिबंधातून (research paper) उद्भवल्याचे समजते.

त्या शोधनिबंधात असे सुचवण्यात आले होते की, वापरकर्ते Mythos-स्तरीय क्षमता मिळवण्यासाठी Fable च्या सुरक्षा निर्बंधांना बगल देऊ शकतात. तथापि, Katie Moussouris (Luta Security च्या संस्थापिका) यांच्यासह सायबर सुरक्षा तज्ज्ञांचा असा युक्तिवाद आहे की, हे AI च्या उपयुक्ततेबद्दलचे मूलभूत गैरसमज आहेत. Moussouris यांचा असा दावा आहे की, वर्णन केलेला "jailbreak" म्हणजे मॉडेलने केवळ त्याचे अपेक्षित कार्य केले होते: ज्ञात असुरक्षितता असलेले ओपन-सोर्स कोड सुधारणे.

Moussouris यांच्या मते, AI ला बग (bug) सुधारण्यास सांगणे, पॅच (patch) स्पष्ट करणे आणि चाचणी (test) लिहिण्यास सांगणे हा सुरक्षा भंग नाही; तर हे "find, fix, and test loop" आहे जे आधुनिक बचावात्मक सुरक्षा परिभाषित करते. या वर्तणुकीला रोखण्याचा प्रयत्न केल्यास सॉफ्टवेअरचे संरक्षण करण्याची मॉडेलची क्षमता मूलभूतपणे क्षीण होईल.

महत्त्वाचे स्वाक्षरीकर्ते आणि उद्योगावरील परिणाम

हे खुले पत्र सुरक्षा क्षेत्रातील दिग्गज व्यक्तींच्या पाठिंब्याने आले आहे, ज्यामध्ये फेसबुकचे माजी सुरक्षा प्रमुख Alex Stamos, Bugcrowd चे संस्थापक Casey Ellis, आणि प्रसिद्ध क्रिप्टोग्राफर Jon Callas यांचा समावेश आहे. त्यांचा युक्तिवाद एका गंभीर असंतुलनावर केंद्रित आहे: जर संरक्षकांना अत्याधुनिक LLMs चा वापर करण्यास मज्जाव केला गेला आणि दुसरीकडे विरोधकांनी निर्बंधमुक्त मॉडेल्सचा वापर केला, तर जागतिक सुरक्षा स्थिती कमकुवत होईल.

तज्ज्ञांनी असेही नमूद केले की Fable मधील कथित असुरक्षितता केवळ Anthropic पुरती मर्यादित नाही. पत्रात असे सुचवण्यात आले आहे की अशाच प्रकारच्या "vulnerabilities" OpenAI च्या GPT-5.5, Anthropic च्या स्वतःच्या Claude Opus 4.8 आणि Sonnet, आणि अगदी Kimi 2.7 सारख्या आंतरराष्ट्रीय मॉडेल्समध्येही दिसून येऊ शकतात.

हा समूह एका लोकशाहीवादी आणि विज्ञान-आधारित नियामक प्रक्रियेची मागणी करत आहे, जी व्यापक आणि प्रतिक्रियात्मक बंदींऐवजी पारदर्शक संशोधनावर अवलंबून असेल, कारण अशा बंदींमुळे फायद्यापेक्षा नुकसान अधिक होऊ शकते.

मुख्य निष्कर्ष