અલ્ગોરિધમિક જ્ઞાનલક્ષી અન્યાયનું નિર્માણ
અલ્ગોરિધમ્સ તમે દરરોજ જે જુઓ છો અને સાંભળો છો તેને આકાર આપે છે. તેઓ નક્કી કરે છે કે તમારા ફીડમાં કયા સમાચાર દેખાશે અને તમે કયા વીડિયો જોશો. જોકે આ સાધનો ઝડપ આપે છે, પરંતુ તેઓ અન્યાયનો એક નવો પ્રકાર પણ પેદા કરે છે.
જ્ઞાનલક્ષી અન્યાય (Epistemic injustice) ત્યારે થાય છે જ્યારે કોઈ વ્યક્તિ સાથે જ્ઞાતા (knower) તરીકે અન્યાયપૂર્ણ વર્તન કરવામાં આવે છે. આનો અર્થ એ છે કે જ્યારે લોકો અથવા જૂથો જ્ઞાન વહેંચવાનો પ્રયાસ કરે છે ત્યારે તેમને અવગણવામાં આવે છે અથવા તેમની વિશ્વસનીયતા પર શંકા કરવામાં આવે છે. ડિજિટલ યુગમાં, AI અને અલ્ગોરિધમ્સ આ સમસ્યાને વધુ ગંભીર બનાવે છે.
આ મુખ્ય બે રીતે થાય છે:
- સાક્ષી અન્યાય (Testimonial injustice): આ ત્યારે થાય છે જ્યારે કોઈ પૂર્વગ્રહને કારણે સિસ્ટમ કોઈ વ્યક્તિને ઓછું મહત્વ આપે છે.
- અર્થઘટનલક્ષી અન્યાય (Hermeneutical injustice): આ ત્યારે થાય છે જ્યારે વિશ્વને સમજવા માટે વપરાતી ભાષા અને સાધનો અમુક ચોક્કસ લોકોને બાકાત રાખે છે.
અલ્ગોરિધમ્સ ગેટકીપર્સ (gatekeepers) તરીકે કામ કરે છે. તેઓ એન્ગેજમેન્ટના આધારે સામગ્રીને પ્રાધાન્ય આપે છે. આનાથી ઇકો ચેમ્બર્સ (echo chambers) સર્જાય છે. જો અલ્ગોરિધમ તમને ફક્ત તે જ બતાવે છે જેમાં તમે પહેલેથી જ માનો છો, તો તમે વિવિધ દૃષ્ટિકોણ મેળવવાની તક ગુમાવો છો.
પૂર્વગ્રહ ડેટા દ્વારા સિસ્ટમમાં પ્રવેશે છે. જો તાલીમ ડેટામાં (training data) ચોક્કસ જૂથોના ઇનપુટનો અભાવ હોય, તો અલ્ગોરિધમ તેમને અવગણશે. આનાથી અનેક સમસ્યાઓ ઊભી થાય છે:
- ઓછી ઉપસ્થિતિ (Underrepresentation): હાંસિયામાં ધકેલાયેલા અવાજો ડિજિટલ લેન્ડસ્કેપમાંથી અદૃશ્ય થઈ જાય છે.
- ડિજિટલ મૌન (Digital silencing): સાંસ્કૃતિક સંદર્ભના અભાવે કન્ટેન્ટ મોડરેશન સાધનો ઘણીવાર લઘુમતી સમુદાયોની પોસ્ટને ફ્લેગ કરે છે અથવા દૂર કરે છે.
- તટસ્થતાનો ભ્રમ (The myth of neutrality): લોકો માની લે છે કે અલ્ગોરિધમ્સ નિષ્પક્ષ છે. આના કારણે અન્યાયી નિર્ણયોને પડકારવા મુશ્કેલ બને છે.
આ શિક્ષણ જેવા વાસ્તવિક ક્ષેત્રોને અસર કરે છે. વિદ્યાર્થીઓ ડિજિટલ પ્લેટફોર્મ દ્વારા પૂર્વગ્રહયુક્ત માહિતી શીખી શકે છે, જે તેમના વિશ્વદૃષ્ટિને મર્યાદિત કરે છે.
આને સુધારવા માટે, આપણને જરૂર છે:
- સર્વસમાવેશી ડેટા પદ્ધતિઓ
- પારદર્શક અલ્ગોરિધમ્સ
- નૈતિક ડિઝાઇન
- માનવીય દેખરેખ
- વપરાશકર્તા સશક્તિકરણ
અલ્ગોરિધમિક અન્યાય સામેની લડાઈ સત્તા વિશે છે. આપણે પૂછવું જોઈએ: શું જ્ઞાન ગણાય તે કોણ નક્કી કરે છે? કોના અવાજો મહત્વના છે?
આપણે અલ્ગોરિધમ્સનો અસ્વીકાર ન કરવો જોઈએ. આપણે ન્યાય અને વિવિધ અવાજોને ટેકો આપવા માટે તેમને ફરીથી નિર્મિત કરવા જોઈએ.
સ્ત્રોત: https://dev.to/smartmindai/the-algorithmic-construction-of-epistemic-injustice-2026-3n3e
વૈકલ્પિક લર્નિંગ કોમ્યુનિટી: https://t.me/GyaanSetuAi