AI को सही होने की ज़रूरत नहीं है। इसे बस प्रक्रियात्मक लगना चाहिए।
AI को किसी कंपनी को बदलने के लिए औपचारिक अधिकार की आवश्यकता नहीं होती। यह व्याकरण के माध्यम से अधिकार प्राप्त करता है।
एक मैनेजर AI रिपोर्ट पढ़ता है। उसमें लिखा है: "यह निर्धारित किया गया है कि वर्तमान संरचना अब टिकाऊ नहीं है।"
उस वाक्य में कोई व्यक्ति नहीं है। किसी विश्लेषक का नाम नहीं है। कोई पद्धति नहीं दिखाई गई है। कोई भी जवाबदेह नहीं है।
फिर भी, वह वाक्य इस वाक्य की तुलना में अधिक आधिकारिक लगता है: "सीमित डेटा के आधार पर मॉडल भविष्यवाणी करता है कि संरचना समस्याएँ पैदा कर सकती है।"
पहला वाक्य एक निष्कर्ष जैसा लगता है। दूसरा एक व्याख्या जैसा लगता है। यह अंतर लोगों के व्यवहार को बदल देता है।
AI "नया अधिकार" कैसे बनाता है:
• यह निर्णय से व्यक्ति को हटा देता है। • "बजट कम करें" के बजाय, यह कहता है "बजट में कटौती आवश्यक है।" • "हम उम्मीदवार को अस्वीकार करते हैं" के बजाय, यह कहता है "उम्मीदवार को उपयुक्त नहीं माना गया।"
व्याकरण निर्णयों को प्रकृति के तथ्यों में बदल देता है। जब कोई वाक्य निर्वैयक्तिक (impersonal) लगता है, तो लोग इसे एक पूर्ण प्रक्रिया के रूप में देखते हैं। वे तर्क पर सवाल उठाना बंद कर देते हैं क्योंकि भाषा अनिश्चितता को छिपा देती है।
जोखिम केवल AI द्वारा गलतियाँ करने का नहीं है। जोखिम यह है कि AI अनिश्चितता को आवश्यकता के रूप में पेश करता है।
एक परिष्कृत वाक्य कमजोर डेटा को छिपा सकता है। एक पेशेवर लहजा प्रमाण की कमी को छिपा सकता है। उपयोगकर्ता अक्सर आत्मविश्वास भरे लहजे को एक कठोर प्रक्रिया समझने की गलती कर बैठते हैं।
इसे ठीक करने के लिए, आपको गायब 'कर्ता' (agent) को वापस लाना होगा। "यह तय किया गया था" को स्वीकार न करें। पूछें:
- निर्णय किसने या किस चीज़ ने लिया?
- कौन सा डेटा इसका समर्थन करता है?
- किस पद्धति का उपयोग किया गया था?
- किन परिस्थितियों में यह सच है?
AI को एक सांख्यिकीय अनुमान को संगठनात्मक नियम में बदलने न दें। वस्तुनिष्ठता (Objectivity) कोई शैली नहीं है। यह एक दावे और उसके साक्ष्य के बीच एक पता लगाने योग्य कड़ी है।
स्रोत: https://dev.to/agustin_v_startari/ai-doesnt-need-to-be-right-it-only-needs-to-sound-procedural-1ob0
वैकल्पिक लर्निंग कम्युनिटी: https://t.me/GyaanSetuAi