तीन शब्द
एक शोधकर्ता ने Anthropic के सबसे शक्तिशाली AI मॉडल में तीन शब्द टाइप किए: fix this code.
नब्बे मिनट के भीतर, संयुक्त राज्य अमेरिका की सरकार ने उस मॉडल को बंद कर दिया।
यह भेद्यता (vulnerability) एक साधारण प्रॉम्प्ट थी। यह कोई जटिल हमला नहीं था। मॉडल ने ऐसा साइबर सुरक्षा डेटा प्रदान किया जिसे उसकी सुरक्षा प्रणालियों को ब्लॉक कर देना चाहिए था।
वाणिज्य विभाग (Commerce Department) ने मॉडल को रोकने के लिए निर्यात नियंत्रण अधिकार (export control authority) का उपयोग किया। उन्होंने Anthropic को सभी विदेशी नागरिकों के लिए इसे एक्सेस करने पर रोक लगाने का आदेश दिया। इसमें Anthropic के अपने कुछ इंजीनियर भी शामिल थे। अपने ही कर्मचारियों को बाहर करने से बचने के लिए Anthropic ने मॉडलों को ऑफलाइन कर दिया।
आधिकारिक कारण राष्ट्रीय सुरक्षा था। लेकिन इस कहानी की एक गहरी परत है।
Amazon ने इस बाईपास (bypass) का पता लगाया। Amazon के CEO Andy Jassy ने सरकारी अधिकारियों को इसके बारे में बताया।
Amazon, Anthropic में एक बड़ा निवेशक है। Amazon वह क्लाउड इंफ्रास्ट्रक्चर भी प्रदान करता है जिसका Anthropic उपयोग करता है। सबसे महत्वपूर्ण बात यह है कि Amazon के अपने AI उत्पाद Anthropic के साथ प्रतिस्पर्धा करते हैं।
यह जानकारी एक प्रतिस्पर्धी से सीधे सरकार तक पहुँच गई। इसने उस कंपनी को दरकिनार कर दिया जिसने मॉडल बनाया था।
यह घटना तीन महत्वपूर्ण बातें दर्शाती है:
ब्रांड जोखिम: Anthropic ने अपनी प्रतिष्ठा सुरक्षा पर बनाई थी। जब एक "सुरक्षित" मॉडल विफल होता है, तो राजनीतिक लागत अधिक होती है। ब्रांड एक देनदारी (liability) बन जाता है।
नई शक्ति संरचनाएं: Amazon एक निवेशक, एक प्रदाता और एक प्रतिस्पर्धी के रूप में कार्य करता है। किसी अन्य उद्योग में ऐसा सेटअप नहीं है। एक प्रतिस्पर्धी का एक अकेला फोन कॉल किसी कंपनी को बंद करने के लिए कानूनी मशीनरी को सक्रिय कर सकता है।
त्वरित हस्तक्षेप: सरकार ने साबित कर दिया कि वह दो घंटे से भी कम समय में किसी AI कंपनी को उसके मुख्य उत्पाद को बंद करने के लिए मजबूर कर सकती है। इसके लिए कोई नोटिस नहीं दिया गया और न ही कोई अपील प्रक्रिया थी।
AI कंपनियों को लगा था कि या तो वे स्वयं को विनियमित (regulate) करेंगी या सरकारी नीति का सामना करेंगी। उन्होंने तीसरे विकल्प की योजना नहीं बनाई थी।
उन्होंने कॉर्पोरेट इंटेलिजेंस द्वारा प्रेरित अचानक हस्तक्षेप के माध्यम से होने वाले विनियमन की योजना नहीं बनाई थी।
सुरक्षा शोधकर्ता AI के लिए सुरक्षा घेरे (guardrails) चाहते थे। वे यह समझने में विफल रहे कि वास्तव में उन्हें कौन बनाएगा।
स्रोत: https://dev.to/thesythesis/the-three-words-3ijl
वैकल्पिक शिक्षण समुदाय: https://t.me/GyaanSetuAi