ज्ञानमीमांसीय अन्यायाची अल्गोरिदमिक रचना
अल्गोरिदम तुम्ही काय पाहता आणि कशावर विश्वास ठेवता हे ठरवतात. तुमच्या फीडमध्ये कोणत्या बातम्या पोहोचतील आणि तुमच्या डिव्हाइसवर कोणती गाणी वाजतील हे तेच ठरवतात. ही प्रणाली तटस्थ नसते. ती ज्ञानमीमांसीय अन्याय (epistemic injustice) निर्माण करू शकते.
जेव्हा लोकांना 'ज्ञेते' (knowers) म्हणून चुकीच्या पद्धतीने वागणूक दिली जाते, तेव्हा ज्ञानमीमांसीय अन्याय होतो. जेव्हा समाज विशिष्ट गटांकडे दुर्लक्ष करतो किंवा त्यांना अमान्य करतो, तेव्हा असे घडते. आता AI या पूर्वग्रहांना कोडमध्ये साठवते आणि त्यांचा विस्तार करते.
या अन्यायाचे दोन मुख्य प्रकार आहेत:
- साक्षविषयक अन्याय (Testimonial injustice): जेव्हा एखादा अल्गोरिदम पूर्वग्रहामुळे एखाद्या व्यक्तीच्या माहितीवर किंवा बोलण्यावर कमी विश्वास ठेवतो, तेव्हा हा अन्याय होतो.
- अर्थनिर्णयविषयक अन्याय (Hermeneutical injustice): जेव्हा जग समजून घेण्यासाठी वापरली जाणारी साधने आणि भाषा विशिष्ट अनुभवांना वगळतात, तेव्हा हा अन्याय होतो.
अल्गोरिदम 'गेटकीपर्स' (gatekeepers) म्हणून काम करतात. ते एंगेजमेंटच्या (engagement) आधारावर मजकुराला प्राधान्य देतात. यामुळे 'इको चेंबर्स' (echo chambers) तयार होतात. यामुळे उपेक्षित समुदायांचे दृष्टिकोन लपवले जातात.
डेटाची समस्या या चक्राला अधिक बळकट करते. जर ट्रेनिंग डेटा (training data) वैविध्यपूर्ण नसेल, तर अल्गोरिदम त्या गटांकडे दुर्लक्ष करतो. यामुळे 'अदृश्यतेचे' (invisibility) एक फीडबॅक लूप तयार होते.
डिझाइनमधील निवडीमुळे देखील नुकसान होते. कंटेंट मॉडरेशन टूल्स (Content moderation tools) अनेकदा विशिष्ट संस्कृतींमधील पोस्ट्सना 'फ्लॅग' (flag) करतात, कारण त्यांना त्यातील बारकावे समजत नाहीत. रेकमेंडेशन सिस्टम्स (Recommendation systems) अल्पसंख्याक आवाजांपेक्षा मुख्य प्रवाहातील विचारांना अधिक महत्त्व देतात. यामुळे कोडच्या माध्यमातून लोकांचा आवाज दाबला जातो.
आपण अनेकदा अल्गोरिदमला वस्तुनिष्ठ (objective) मानतो. ही एक चूक आहे. डेटा निवडण्यापासून ते सिस्टम डिझाइनपर्यंतच्या प्रत्येक टप्प्यावर मानवी निवडींचा प्रभाव असतो. जेव्हा आपण कोड तटस्थ आहे असे मानतो, तेव्हा अन्यायकारक निर्णयांना आव्हान देणे कठीण होते.
AI मध्ये न्यायाकडे कसे वळायचे:
- सर्वसमावेशक डेटा पद्धतींचा वापर करा.
- पारदर्शक अल्गोरिदम तयार करा.
- नैतिक डिझाइन तत्त्वांचे पालन करा.
- मानवी देखरेख (human oversight) कायम ठेवा.
- वापरकर्त्यांना त्यांच्या डेटावर नियंत्रण मिळवण्यासाठी सक्षम करा.
हा मुद्दा सत्तेचा आहे. ज्ञान म्हणून कशाला मानले जावे, याचा निर्णय कोण घेते? कोणाचे आवाज महत्त्वाचे आहेत? हे आपल्याला विचारावे लागेल.
आपण अल्गोरिदम नाकारले पाहिजेत असे नाही. तर आपल्याला त्यांची पुनर्रचना करावी लागेल. आपल्याला अशा प्रणालींची गरज आहे ज्या विविध आवाजांना लपवण्याऐवजी त्यांना अधिक प्रकर्षाने मांडतील.
स्रोत: https://dev.to/smartmindai/the-algorithmic-construction-of-epistemic-injustice-2026-3n3e