आपकी AI सुरक्षा नीतियां ठीक हैं। आपका आर्किटेक्चर नहीं है।
आपके पास AI सुरक्षा नीतियां हैं। आपके पास नियम हैं। आपके पास टेस्टिंग है। आपका आर्किटेक्चर इन नियमों को लागू नहीं करता है।
AI जोखिम अलग तरह से काम करता है। यह एक ही जगह पर नहीं रहता। पुराने टूल्स केवल एक ही रास्ते की जांच करते हैं। वे पूरे निष्पादन (execution) को नहीं देख पाते। AI जोखिम सामान्य काम जैसा ही दिखता है।
सैमसंग एक सबक देता है। किसी ने उन्हें हैक नहीं किया। टूल ने अपना काम किया। डेटा मुख्य द्वार (front door) से बाहर निकल गया।
आपको रनटाइम (runtime) पर ध्यान केंद्रित करना चाहिए। रनटाइम ही वह जगह है जहाँ व्यवहार (behavior) होता है।
- एक प्रॉम्प्ट एक टूल को कॉल करता है।
- एक टूल डेटा बदलता है।
- एक रिकॉर्ड वर्कफ़्लो (workflow) को ट्रिगर करता है।
अलर्ट बहुत देर से आता है।
अपने कंट्रोल्स को एक्जीक्यूशन पाथ (execution path) पर ले जाएं। यह पूछना बंद करें कि मॉडल क्या आउटपुट देता है। यह पूछें कि मॉडल कहाँ तक पहुँच (reach) सकता है।
अपनी सुरक्षा को 'रीच' (reach) के इर्द-गिर्द बनाएं।