Anthropic के प्रॉम्प्ट-लीक बग ने एक सप्ताह का यूजर डेटा उजागर कर दिया।
यह ब्रीच क्यों महत्वपूर्ण है
Anthropic का मॉडल इंटरफ़ेस डेवलपर्स को "प्रॉम्प्ट्स" (prompts) भेजने की अनुमति देता है—यह वह टेक्स्ट है जो लैंग्वेज मॉडल के जवाब को निर्देशित करता है। इस घटना में, स्टोरेज की एक खामी के कारण अनधिकृत पक्ष सात दिनों तक उन प्रॉम्प्ट्स को पढ़ सके। यह लीक कोई बड़ा हैक नहीं था; प्रॉम्प्ट्स को सेव करने और उन्हें प्राप्त करने के तरीके में एक छोटी सी चूक ने इस रास्ते को खोल दिया।
क्या गलत हुआ
यूजर डेटा को मॉडल वेट्स (model weights) से अलग रखने से जोखिम सीमित हो जाता है। ऑडिट ट्रेल (audit trails) बनाने से असामान्य गतिविधियों का जल्दी पता चल जाता है।
AI स्टार्टअप्स के लिए तत्काल कदम
- प्रॉम्प्ट हैंडलिंग को मजबूत करें – हर आने वाले प्रॉम्प्ट को संवेदनशील इनपुट के रूप में मानें। इसे 'एट रेस्ट' (at rest) एन्क्रिप्ट करें, रीड/राइट अधिकारों को सेवाओं के न्यूनतम सेट तक सीमित रखें, और सुनिश्चित करें कि केवल मॉडल एक्जीक्यूशन इंजन ही इसे प्राप्त कर सके।
- यूजर डेटा को मॉडल वेट्स से अलग रखें – प्रॉम्प्ट्स को एक समर्पित रिपॉजिटरी में स्टोर करें जो मॉडल फाइलों से भौतिक (physically) और तार्किक (logically) रूप से अलग हो। यह विभाजन किसी भी एकल ब्रीच के प्रभाव (blast radius) को सीमित कर देता है।
- ऑडिट ट्रेल बनाएं – प्रॉम्प्ट स्टोरेज के हर एक्सेस को टाइमस्टैम्प, यूजर आईडी और सोर्स आईपी के साथ लॉग करें। रियल-टाइम एनालिटिक्स चलाएं जो असामान्य रीड वॉल्यूम या अप्रत्याशित सेवाओं से एक्सेस होने पर अलर्ट जारी करे।
आगे क्या ध्यान रखें
निष्कर्ष: प्रॉम्प्ट हैंडलिंग की एक छोटी सी खामी एक सप्ताह लंबे डेटा एक्सपोज़र का कारण बन सकती है। AI संस्थापकों को प्रॉम्प्ट स्टोरेज के लिए भी उतनी ही सख्ती बरतनी चाहिए जितनी वे किसी अन्य यूजर-डेटा सिस्टम के लिए बरतते हैं, अन्यथा वे Anthropic जैसी महंगी गलती दोहराएंगे।