𝗧𝗵𝗲 𝗔𝗹𝗴𝗼𝗿𝗶𝘁𝗵𝗺𝗶𝗰 𝗖𝗼𝗻𝘀𝘁𝗿𝘂𝗰𝘁𝗶𝗼𝗻 𝗼𝗳 𝗘𝗽𝗶𝘀𝘁𝗲𝗺𝗶𝗰 𝗜𝗻𝗷𝘂𝘀𝘁𝗶𝗰𝗲
अल्गोरिदम दररोज तुम्ही काय पाहता आणि ऐकता याला आकार देतात. तुमच्या फीडमध्ये कोणत्या बातम्या दिसतील आणि तुम्ही कोणते व्हिडिओ पाहता हे ते ठरवतात. जरी ही साधने वेगवान असली, तरी ती एक नवीन प्रकारचा अन्यायही निर्माण करतात.
जेव्हा एखाद्या व्यक्तीला 'ज्ञाता' (knower) म्हणून अन्यायकारकपणे वागवले जाते, तेव्हा 'ज्ञानमीमांसीय अन्याय' (Epistemic injustice) होतो. याचा अर्थ असा की, जेव्हा लोक किंवा समूह ज्ञान सामायिक करण्याचा प्रयत्न करतात, तेव्हा त्यांना दुर्लक्षित केले जाते किंवा त्यांच्या ज्ञानावर शंका उपस्थित केली जाते. डिजिटल युगात, AI आणि अल्गोरिदम ही समस्या अधिक तीव्र करतात.
हे प्रामुख्याने दोन प्रकारे घडते:
- साक्षविषयक अन्याय (Testimonial injustice): जेव्हा एखादी प्रणाली पूर्वग्रहामुळे एखाद्या व्यक्तीला कमी महत्त्व देते, तेव्हा असे घडते.
- अर्थनिर्णयविषयक अन्याय (Hermeneutical injustice): जेव्हा जग समजून घेण्यासाठी वापरली जाणारी भाषा आणि साधने काही विशिष्ट लोकांना वगळतात, तेव्हा असे घडते.
अल्गोरिदम 'गेटकीपर्स' (gatekeepers) म्हणून काम करतात. ते एंगेजमेंटच्या (engagement) आधारावर मजकुराला प्राधान्य देतात. यामुळे 'इको चेंबर्स' (echo chambers) तयार होतात. जर एखादा अल्गोरिदम तुम्हाला फक्त तेच दाखवत असेल ज्यावर तुमचा आधीच विश्वास आहे, तर तुम्ही विविध दृष्टिकोनांपासून दूर जाता.
डेटाद्वारे प्रणालीमध्ये पूर्वग्रह (Bias) प्रवेश करतो. जर ट्रेनिंग डेटा (training data) मध्ये विशिष्ट गटांचा सहभाग नसेल, तर अल्गोरिदम त्यांना दुर्लक्षित करेल. यामुळे अनेक समस्या निर्माण होतात:
- अपुरे प्रतिनिधित्व (Underrepresentation): उपेक्षित आवाज डिजिटल क्षेत्रातून नाहीसे होतात.
- डिजिटलरीत्या आवाज दाबणे (Digital silencing): सांस्कृतिक संदर्भाच्या अभावामुळे, कंटेंट मॉडरेशन टूल्स अनेकदा अल्पसंख्याक समुदायांच्या पोस्ट फ्लॅग करतात किंवा काढून टाकतात.
- तटस्थतेचा भ्रम (The myth of neutrality): लोक मानतात की अल्गोरिदम वस्तुनिष्ठ आहेत. यामुळे अन्यायकारक निर्णयांना आव्हान देणे कठीण होते.
याचा परिणाम शिक्षण यांसारख्या वास्तविक क्षेत्रांवर होतो. विद्यार्थी डिजिटल प्लॅटफॉर्मद्वारे पूर्वग्रहदूषित माहिती शिकू शकतात, ज्यामुळे त्यांच्या जगाकडे पाहण्याच्या दृष्टिकोनावर मर्यादा येतात.
हे सुधारण्यासाठी, आपल्याला खालील गोष्टींची आवश्यकता आहे:
- सर्वसमावेशक डेटा पद्धती (Inclusive data practices)
- पारदर्शक अल्गोरिदम (Transparent algorithms)
- नैतिक रचना (Ethical design)
- मानवी देखरेख (Human oversight)
- वापरकर्त्यांचे सक्षमीकरण (User empowerment)
अल्गोरिदममधील अन्यायाविरुद्धचा लढा हा अधिकाराचा (power) लढा आहे. आपण स्वतःला विचारले पाहिजे: काय ज्ञान मानले जावे हे कोण ठरवते? कोणाचे आवाज महत्त्वाचे आहेत?
आपण अल्गोरिदम नाकारले पाहिजेत असे नाही. तर, निष्पक्षता आणि विविध आवाजांना पाठिंबा देण्यासाठी आपल्याला त्यांची पुनर्रचना करावी लागेल.
Source: https://dev.to/smartmindai/the-algorithmic-construction-of-epistemic-injustice-2026-3n3e
Optional learning community: https://t.me/GyaanSetuAi