एंटरप्राइज AI में भरोसे की समस्या
जब कंपनियां AI भरोसे की बात करती हैं, तो वे गलत चीज़ पर ध्यान केंद्रित करती हैं। वे पूछती हैं कि क्या मॉडल सटीक है। वे पूछते हैं कि क्या यह मतिभ्रम (hallucinate) करता है।
ये सवाल असली मुद्दे को छोड़ देते हैं।
कंपनियां AI को इसलिए नहीं छोड़तीं क्योंकि मॉडल खराब है। बल्कि इसलिए छोड़ती हैं क्योंकि मॉडल के आसपास के सिस्टम पर भरोसे की कमी होती है। प्रोडक्शन में सफल होने के लिए, आपको ऑपरेशनल कंट्रोल (परिचालन नियंत्रण) की आवश्यकता होती है।
आपको चार सवालों के जवाब देने होंगे:
- क्या आप आउटपुट की व्याख्या कर सकते हैं? यदि कोई टीम यह नहीं समझा सकती कि AI ने एक विशिष्ट परिणाम क्यों दिया, तो वे केवल उम्मीद के भरोसे काम कर रहे हैं। पहली घटना के दौरान ही उम्मीद टूट जाती है।
- क्या आप निर्णयों को सत्यापित कर सकते हैं? आपको वास्तविक व्यावसायिक आवश्यकताओं के विरुद्ध AI आउटपुट की जांच करने के तरीके की आवश्यकता है।
- क्या आप हस्तक्षेप कर सकते हैं? आपको एक 'किल स्विच' (kill switch) या 'फ़ॉलबैक पाथ' (fallback path) की आवश्यकता है। यदि आपके पास AI को रोकने का कोई तरीका नहीं है, तो आप यह सबक संकट के समय में सीखेंगे।
- क्या आप परिणामों का पता लगा सकते हैं? यदि कोई निर्णय बुरा परिणाम देता है, तो आपको पूरी प्रक्रिया को फिर से समझना होगा। आपको इनपुट, आउटपुट और संदर्भ (context) जानने की आवश्यकता है।
अपारदर्शिता (Opacity) डेमो में काम कर सकती है, लेकिन प्रोडक्शन में विफल हो जाती है।
वास्तविक प्रोडक्शन वातावरण में ऑडिटर, रेगुलेटर और इंजीनियर होते हैं। इन लोगों को यह जानने की आवश्यकता है कि चीजें क्यों हुईं। वे "AI ने ऐसा किया" को उत्तर के रूप में स्वीकार नहीं कर सकते।
अपारदर्शी सिस्टम अनिश्चितता को बढ़ाते हैं। अनिश्चितता अपनाने (adoption) की प्रक्रिया को बाधित करती है।
जो टीमें AI को लंबे समय तक बनाए रखती हैं, वे ये चार काम करती हैं:
- वे आउटपुट को व्याख्या योग्य (explainable) बनाते हैं। टीम का कोई व्यक्ति हमेशा यह बता सकता है कि सिस्टम ने ऐसा व्यवहार क्यों किया।
- वे निर्णयों को जांचने योग्य बनाते हैं। AI और अंतिम कार्रवाई के बीच एक वैलिडेशन लेयर (validation layer) होती है।
- वे हस्तक्षेप को संभव बनाते हैं। एक ओवरराइड पाथ (override path) मौजूद होता है और काम करता है।
- वे ट्रेसिबिलिटी (traceability) को शामिल करते हैं। लॉग्स आपको हर घटना को फिर से समझने की अनुमति देते हैं।
मॉडल्स तक पहुंच अब चुनौती नहीं है। चुनौती यह है कि जैसे-जैसे AI आपके वर्कफ़्लो में प्रवेश करता है, ऑपरेशनल स्पष्टता कैसे बनाए रखी जाए।
जब सिस्टम पारदर्शी और ट्रेसिबल (traceable) होता है, तो संगठन AI को तेजी से अपनाते हैं। केवल मॉडल पर भरोसा करना काफी नहीं है। आपको पूरे सिस्टम पर भरोसा करना होगा।
आपकी टीम AI भरोसे को कैसे संभालती है? क्या यह आपके डिज़ाइन का हिस्सा है या आप कुछ टूटने का इंतज़ार कर रहे हैं?