अमेरिकन सरकार विरुद्ध Anthic: 'अनहॅक करण्यायोग्य' LLMs साठीची अशक्य मागणी

Fable 5 मॉडेलच्या విడుदेनंतर अमेरिकन सरकार आणि Anthropic यांच्यात वाढता मतभेद निर्माण झाला असून, यामुळे AI सुरक्षा आणि नियामक देखरेखीवरून (regulatory oversight) वाद सुरू झाला आहे. अधिकारी या AI लॅबवर कार्यकारी आदेशांचे (executive orders) उल्लंघन केल्याचा आरोप करत असतानाच, एक तांत्रिक तणावही समोर येत आहे: आणि तो म्हणजे 'अनहॅक करण्यायोग्य' (unhackable) फ्रंटियर मॉडेल्ससाठी सरकारची मागणी.

Fable 5 आणि सायबर निर्देशांमधील संघर्ष

हा तणाव Anthropic ने त्यांचे नवीनतम मॉडेल, Fable 5, ट्रम्प प्रशासनाच्या अलीकडील सायबर कार्यकारी आदेशाद्वारे अनिवार्य करण्यात आलेल्या नियुक्त सरकारी क्लिअरिंगहाऊसच्या (clearinghouse) पूर्णतः कार्यान्वित होण्यापूर्वीच रिलीज करण्याच्या निर्णयामुळे निर्माण झाला आहे. जरी या आदेशात स्वयंसेवी देखरेखीचे (voluntary oversight) आवाहन केले होते, तरीही Anthropic ने या निर्देशांच्या मूळ उद्देशाकडे दुर्लक्ष केल्याचा दावा सरकारी अधिकाऱ्यांनी केला आहे, ज्यामुळे कंपनीवर "वाईट घटक" (bad actor) असल्याचा आरोप होत आहे.

वाणिज्य विभाग (Department of Commerce), CIA आणि विज्ञान सल्लागार मायकल क्रॅटसिओस यांच्यातील सध्याच्या चर्चांमधून संवादातील मोठी दरी दिसून येत आहे. "जेलब्रेक" (jailbreak) होण्याचा धोका असल्याचे माहित असूनही Anthropic ने पुढील पावले उचलल्याबद्दल अधिकाऱ्यांनी चिंता व्यक्त केली आहे—असे म्हटले जात आहे की ही माहिती Amazon आणि इतर टेक उद्योगातील भागीदारांनी दिली होती. तथापि, हा संघर्ष तांत्रिक सुरक्षेइतकाच नियामक वेळेबाबतही (regulatory timing) असल्याचे दिसून येते.

तांत्रिक वास्तव: LLMs कधीही अनहॅक करण्यायोग्य होऊ शकतात का?

सरकारच्या टीकेचा मुख्य मुद्दा—की Anthropic ने संभाव्य जेलब्रेक्सकडे दुर्लक्ष करून "चुकीचा मार्ग" (took the wrong fork) निवडला—हा लार्ज लँग्वेज मॉडेल (LLM) आर्किटेक्चरच्या मूलभूत वास्तवाकडे दुर्लक्ष करतो. AI उद्योगात असा सर्वमान्य निष्कर्ष आहे की, सध्या पूर्णतः सुरक्षा मिळवणे अशक्य आहे. अगदी OpenAI ने देखील मान्य केले आहे की 'प्रॉम्प्ट इंजेक्शन' (prompt injection) सारख्या त्रुटी कधीही पूर्णपणे सुटणार नाहीत.

Anthropic चे CEO डारियो अमोडे यांनी यापूर्वी नमूद केले आहे की, जीवशास्त्र किंवा तंत्रज्ञान यांसारख्या संवेदनशील क्षेत्रांमध्ये जेलब्रेक होणे हे "जीवन किंवा मृत्यू" (life or death) ठरवणारे असू शकते, तरीही हे धोके कसे कमी करायचे यावर उद्योग अजूनही संघर्ष करत आहे. आंतरराष्ट्रीय स्तरावर वितरणापूर्वी मॉडेल्स अनिवार्यपणे अनहॅक करण्यायोग्य असावीत अशी मागणी करून, अमेरिकन सरकार एक असा आदर्श (precedent) प्रस्थापित करत आहे जो नाविन्यपूर्ण संशोधनाला (innovation) खीळ घालू शकतो, कारण कोणत्याही फ्रंटियर मॉडेलकडे (GPT-5.5 किंवा Kimi 2.7 सह) परिपूर्ण सुरक्षा कवच नाही.

उद्योगाचा विरोध आणि निर्यात नियंत्रण वाद

वाढत्या तणावाच्या पार्श्वभूमीवर, अलेक्स स्टॅमॉस आणि रॅचेल टोबॅक यांसारख्या उद्योगातील दिग्गज तज्ज्ञांसह १०० हून अधिक सायबर सुरक्षा तज्ज्ञ आणि कार्यकारी अधिकाऱ्यांनी व्यापार सचिव लुटनिक आणि राष्ट्रीय सायबर संचालक केअरनकॉस यांना एक खुले पत्र दिले आहे. ते Anthropic च्या Fable आणि Mythos मॉडेल्सवरील निर्यात नियंत्रणे (export controls) उठवण्याची मागणी करत आहेत.

तज्ज्ञांचे असे म्हणणे आहे की, Fable सॉफ्टवेअरमधील त्रुटी ओळखण्यात अत्यंत सक्षम असले तरी, ते Opus किंवा Sonnet सारख्या इतर मॉडेल्सच्या तुलनेत विशेषतः धोकादायक नाही. महत्त्वाचे म्हणजे, त्यांनी इशारा दिला आहे की कडक निर्यात नियंत्रणे प्रत्यक्षात पाश्चात्य रक्षक देशांना अडचणीत आणत आहेत. अमेरिकेच्या उच्च दर्जाच्या मॉडेल्सचा प्रवेश मर्यादित करून, सरकार नकळतपणे चिनी ओपन-वेट (open-weight) मॉडेल्सना फायदा मिळवून देऊ शकते, जी reportedly आघाडीच्या अमेरिकन फ्रंटियर मॉडेल्सच्या केवळ काही महिने मागे आहेत.

मुख्य मुद्दे