ज्ञानमीमांसीय अन्याय का एल्गोरिद्मिक निर्माण
एल्गोरिदम हर दिन आपके देखने और सुनने वाली चीज़ों को आकार देते हैं। वे तय करते हैं कि आपकी फीड में कौन सी खबरें दिखाई देंगी और आप कौन से वीडियो देखेंगे। हालाँकि ये उपकरण गति प्रदान करते हैं, लेकिन ये एक नए प्रकार का अन्याय भी पैदा करते हैं।
ज्ञानमीमांसीय अन्याय (Epistemic injustice) तब होता है जब किसी व्यक्ति के साथ एक 'जानने वाले' (knower) के रूप में अनुचित व्यवहार किया जाता है। इसका अर्थ है कि जब लोग या समूह ज्ञान साझा करने का प्रयास करते हैं, तो उन्हें नज़रअंदाज़ कर दिया जाता है या उनकी विश्वसनीयता पर सवाल उठाया जाता है। डिजिटल युग में, AI और एल्गोरिदम इस समस्या को और बढ़ा देते हैं।
यह मुख्य रूप से दो तरीकों से होता है:
- साक्ष्य संबंधी अन्याय (Testimonial injustice): यह तब होता है जब कोई प्रणाली पूर्वाग्रह के कारण किसी को कम श्रेय देती है।
- व्याख्यात्मक अन्याय (Hermeneutical injustice): यह तब होता है जब दुनिया को समझने के लिए उपयोग की जाने वाली भाषा और उपकरण कुछ लोगों को बाहर कर देते हैं।
एल्गोरिदम गेटकीपर (gatekeepers) के रूप में कार्य करते हैं। वे जुड़ाव (engagement) के आधार पर सामग्री को प्राथमिकता देते हैं। इससे 'इको चैंबर' (echo chambers) बन जाते हैं। यदि कोई एल्गोरिदम आपको केवल वही दिखाता है जिस पर आप पहले से विश्वास करते हैं, तो आप विविध विचारों तक पहुँच खो देते हैं।
डेटा के माध्यम से प्रणाली में पूर्वाग्रह प्रवेश करता है। यदि प्रशिक्षण डेटा (training data) में विशिष्ट समूहों का इनपुट नहीं है, तो एल्गोरिदम उन्हें नज़रअंदाज़ कर देगा। इससे कई समस्याएँ उत्पन्न होती हैं:
- कम प्रतिनिधित्व (Underrepresentation): हाशिए पर मौजूद आवाज़ें डिजिटल परिदृश्य से गायब हो जाती हैं।
- डिजिटल मौन (Digital silencing): सांस्कृतिक संदर्भ की कमी के कारण कंटेंट मॉडरेशन टूल्स अक्सर अल्पसंख्यक समुदायों की पोस्ट को फ्लैग कर देते हैं या हटा देते हैं।
- तटस्थता का मिथक (The myth of neutrality): लोग मान लेते हैं कि एल्गोरिदम निष्पक्ष होते हैं। इससे अनुचित निर्णयों को चुनौती देना कठिन हो जाता है।
यह शिक्षा जैसे वास्तविक क्षेत्रों को प्रभावित करता है। छात्र डिजिटल प्लेटफॉर्म के माध्यम से पक्षपाती जानकारी सीख सकते हैं, जो उनके विश्वदृष्टिकोण को सीमित करती है।
इसे ठीक करने के लिए, हमें आवश्यकता है:
- समावेशी डेटा पद्धतियाँ
- पारदर्शी एल्गोरिदम
- नैतिक डिज़ाइन
- मानवीय निरीक्षण
- उपयोगकर्ता सशक्तिकरण
एल्गोरिद्मिक अन्याय के खिलाफ लड़ाई शक्ति के बारे में है। हमें पूछना चाहिए: यह कौन तय करता है कि किसे ज्ञान माना जाए? किसकी आवाज़ मायने रखती है?
हमें एल्गोरिदम को खारिज नहीं करना चाहिए। हमें निष्पक्षता और विविध आवाज़ों का समर्थन करने के लिए उन्हें फिर से बनाना चाहिए।
Source: https://dev.to/smartmindai/the-algorithmic-construction-of-epistemic-injustice-2026-3n3e
Optional learning community: https://t.me/GyaanSetuAi