Anthropic च्या प्रॉम्प्ट-लीक (prompt-leak) बगमुळे एका आठवड्याचा वापरकर्त्यांचा डेटा उघड झाला.

ही सुरक्षा चूक का महत्त्वाची आहे

Anthropic चे मॉडेल इंटरफेस डेव्हलपर्सना “प्रॉम्प्ट्स” (prompts) पाठवण्याची परवानगी देतात—हे असे मजकूर आहेत जे लँग्वेज मॉडेलच्या प्रतिसादाला दिशा देतात. या घटनेत, स्टोरेजमधील एका त्रुटीमुळे अनधिकृत व्यक्तींना सात दिवस ते प्रॉम्प्ट्स वाचता आले. ही लीक कोणतीही मोठी हॅकिंग घटना नव्हती; प्रॉम्प्ट्स कसे सेव्ह केले जातात आणि ते कसे मिळवले जातात, यातील एका लहानशा चुकीमुळे ही दारे उघडली गेली.

काय चुकले

वापरकर्त्याचा डेटा मॉडेल वेट्स (model weights) पासून वेगळा ठेवल्यास डेटा उघड होण्याचा धोका मर्यादित राहतो. ऑडिट ट्रेल्स (audit trails) तयार केल्यामुळे असामान्य हालचाली लवकर लक्षात येतात.

AI स्टार्टअप्ससाठी तातडीचे उपाय

  • प्रॉम्प्ट हँडलिंग अधिक सुरक्षित करा (Harden prompt handling) – येणारा प्रत्येक प्रॉम्प्ट संवेदनशील इनपुट म्हणून माना. तो 'ॲट रेस्ट' (at rest) स्थितीत एन्क्रिप्ट करा, रीड/राईट (read/write) अधिकार किमान सेवांपर्यंत मर्यादित ठेवा आणि केवळ मॉडेल एक्झिक्यूशन इंजिनच तो मिळवू शकेल याची खात्री करा.
  • वापरकर्त्याचा डेटा मॉडेल वेट्सपासून वेगळा ठेवा – प्रॉम्प्ट्स एका समर्पित रिपॉझिटरीमध्ये साठवा जी मॉडेल फाइल्सपासून भौतिक (physically) आणि तार्किकदृष्ट्या (logically) वेगळी असेल. या विभाजनामुळे कोणत्याही एका सुरक्षा भेगामुळे होणारे नुकसान मर्यादित राहते.
  • ऑडिट ट्रेल्स तयार करा – प्रॉम्प्ट स्टोरेजमधील प्रत्येक प्रवेशाची नोंद टाइमस्टॅम्प, युजर आयडी आणि सोर्स आयपी (source IPs) सह करा. रिअल-टाइम अ‍ॅनालिटिक्स चालवा जे असामान्य रीड व्हॉल्यूम किंवा अनपेक्षित सेवांकडून होणाऱ्या प्रवेशावर अलर्ट पाठवतील.

पुढे काय पाहावे

थोडक्यात सांगायचे तर: प्रॉम्प्ट हँडलिंगमधील एक छोटीशी त्रुटी आठवडाभर डेटा उघड होण्यासारखी मोठी समस्या बनू शकते. AI संस्थापकांनी प्रॉम्प्ट स्टोरेजसाठी इतर कोणत्याही युजर-डेटा सिस्टमप्रमाणेच तितकीच कडक शिस्त पाळली पाहिजे, अन्यथा ते Anthropic सारखी महागडी चूक पुन्हा करतील.