एल्गोरिद्मिक ज्ञानमीमांसीय अन्याय का निर्माण

एल्गोरिदम यह तय करते हैं कि आप क्या देखते हैं और किस पर विश्वास करते हैं। वे तय करते हैं कि कौन सी खबरें आपके फीड तक पहुँचती हैं और आपके डिवाइस पर कौन से गाने बजते हैं। ये सिस्टम तटस्थ नहीं होते हैं। वे ज्ञानमीमांसीय अन्याय (epistemic injustice) पैदा कर सकते हैं।

ज्ञानमीमांसीय अन्याय तब होता है जब लोगों के साथ 'जानने वालों' (knowers) के रूप में अन्याय किया जाता है। यह तब होता है जब समाज कुछ समूहों की अनदेखी करता है या उन्हें अविश्वसनीय मानता है। AI अब इन पूर्वाग्रहों को कोड में ढालता है और उन्हें और बढ़ा देता है।

इस अन्याय के दो मुख्य प्रकार हैं:

एल्गोरिदम गेटकीपर (gatekeepers) के रूप में कार्य करते हैं। वे जुड़ाव (engagement) के आधार पर सामग्री को प्राथमिकता देते हैं। इससे 'इको चैंबर' (echo chambers) बनते हैं। यह हाशिए पर रहने वाले समुदायों के दृष्टिकोणों को छिपा देता है।

डेटा की समस्या इस चक्र को बढ़ावा देती है। यदि प्रशिक्षण डेटा (training data) में विविधता की कमी है, तो एल्गोरिदम उन समूहों की अनदेखी करता है। इससे अदृश्यता का एक फीडबैक लूप (feedback loop) बन जाता है।

डिज़ाइन संबंधी विकल्प भी नुकसान पहुँचाते हैं। कंटेंट मॉडरेशन टूल्स अक्सर विशिष्ट संस्कृतियों की पोस्ट को फ्लैग कर देते हैं क्योंकि वे बारीकियों को नहीं समझ पाते। रिकमेंडेशन सिस्टम अल्पसंख्यक आवाजों के बजाय मुख्यधारा के विचारों को प्राथमिकता देते हैं। यह कोड के माध्यम से लोगों को चुप करा देता है।

हम अक्सर एल्गोरिदम को निष्पक्ष मानते हैं। यह एक गलती है। डेटा चयन से लेकर सिस्टम डिज़ाइन तक, हर कदम मानवीय निर्णयों से आकार लेता है। जब हम यह मान लेते हैं कि कोड तटस्थ है, तो हम अनुचित निर्णयों को चुनौती देना कठिन बना देते हैं।

AI में न्याय की ओर कैसे बढ़ें:

यह मुद्दा शक्ति (power) का है। हमें पूछना चाहिए कि कौन यह तय करता है कि किसे ज्ञान माना जाए। हमें पूछना चाहिए कि किसकी आवाज़ मायने रखती है।

हमें एल्गोरिदम को खारिज नहीं करना चाहिए। हमें उन्हें फिर से बनाना होगा। हमें ऐसे सिस्टम की आवश्यकता है जो विविध आवाजों को छिपाने के बजाय उन्हें बुलंद करें।

स्रोत: https://dev.to/smartmindai/the-algorithmic-construction-of-epistemic-injustice-2026-3n3e