അറിവ് സംബന്ധമായ അനീതിയുടെ അൽഗോരിതമിക് നിർമ്മാണം

നിങ്ങൾ കാണുന്നതും വിശ്വസിക്കുന്നതും അൽഗോരിതങ്ങൾ രൂപപ്പെടുത്തുന്നു. ഏത് വാർത്തകൾ നിങ്ങളുടെ ഫീഡിൽ എത്തണമെന്നും നിങ്ങളുടെ ഉപകരണത്തിൽ ഏത് പാട്ടുകൾ बजിക്കണമെന്നും അവ തീരുമാനിക്കുന്നു. ഈ സംവിധാനങ്ങൾ നിഷ്പക്ഷമല്ല. അവ അറിവ് സംബന്ധമായ അനീതി (epistemic injustice) സൃഷ്ടിച്ചേക്കാം.

അറിവുള്ളവരായി പരിഗണിക്കപ്പെടുമ്പോൾ ആളുകൾ അന്യായമായി മുറിവേൽപ്പിക്കപ്പെടുമ്പോഴാണ് അറിവ് സംബന്ധമായ അനീതി സംഭവിക്കുന്നത്. സമൂഹം ചില വിഭാഗങ്ങളെ അവഗണിക്കുകയോ അവരെ അവിശ്വസിക്കുകയോ ചെയ്യുമ്പോഴാണ് ഇത് സംഭവിക്കുന്നത്. AI ഇപ്പോൾ ഈ പക്ഷപാതങ്ങളെ കോഡുകളിലൂടെ ഉൾപ്പെടുത്തുകയും അവ വ്യാപിപ്പിക്കുകയും ചെയ്യുന്നു.

ഈ അനീതിക്ക് പ്രധാനമായും രണ്ട് തരങ്ങളുണ്ട്:

അൽഗോരിതങ്ങൾ കാവൽക്കാരെപ്പോലെ (gatekeepers) പ്രവർത്തിക്കുന്നു. അവ ഇടപെടലുകളുടെ (engagement) അടിസ്ഥാനത്തിൽ ഉള്ളടക്കത്തിന് മുൻഗണന നൽകുന്നു. ഇത് എക്കോ ചേമ്പറുകൾ (echo chambers) സൃഷ്ടിക്കുന്നു. ഇത് പാർശ്വവൽക്കരിക്കപ്പെട്ട സമൂഹങ്ങളുടെ കാഴ്ചപ്പാടുകളെ മറച്ചുവെക്കുന്നു.

ഡാറ്റയുമായി ബന്ധപ്പെട്ട പ്രശ്നങ്ങൾ ഈ ചക്രം ശക്തമാക്കുന്നു. പരിശീലന ഡാറ്റയിൽ (training data) വൈവിധ്യം ഇല്ലെങ്കിൽ, അൽഗോരിതം ആ വിഭാഗങ്ങളെ അവഗണിക്കുന്നു. ഇത് അദൃശ്യതയുടെ ഒരു ഫീഡ്‌ബാക്ക് ലൂപ്പിലേക്ക് (feedback loop of invisibility) നയിക്കുന്നു.

രൂപകൽപ്പനയിലെ തിരഞ്ഞെടുപ്പുകളും ദോഷം ചെയ്യുന്നു. ഉള്ളടക്കം നിയന്ത്രിക്കുന്ന ടൂളുകൾ (Content moderation tools) പലപ്പോഴും സാംസ്കാരികമായ സൂക്ഷ്മതകൾ തിരിച്ചറിയാത്തതിനാൽ ചില പ്രത്യേക സംസ്കാരങ്ങളിൽ നിന്നുള്ള പോസ്റ്റുകളെ തെറ്റായി അടയാളപ്പെടുത്തുന്നു. ശുപാർശ സംവിധാനങ്ങൾ (Recommendation systems) ന്യൂനപക്ഷ ശബ്ദങ്ങളേക്കാൾ മുഖ്യധാര ആശയങ്ങൾക്ക് മുൻഗണന നൽകുന്നു. ഇത് കോഡുകളിലൂടെ ആളുകളെ നിശബ്ദരാക്കുന്നു.

നമ്മൾ പലപ്പോഴും അൽഗോരിതങ്ങളെ വസ്തുനിഷ്ഠമായി കാണുന്നു. ഇത് ഒരു തെറ്റാണ്. ഡാറ്റ തിരഞ്ഞെടുക്കുന്നത് മുതൽ സിസ്റ്റം രൂപകൽപ്പന ചെയ്യുന്നത് വരെയുള്ള ഓരോ ഘട്ടവും മനുഷ്യന്റെ തീരുമാനങ്ങളാൽ രൂപപ്പെട്ടതാണ്. കോഡുകൾ നിഷ്പക്ഷമാണെന്ന് നമ്മൾ കരുതുമ്പോൾ, അന്യായമായ തീരുമാനങ്ങളെ ചോദ്യം ചെയ്യുന്നത് കൂടുതൽ പ്രയാസകരമാക്കുന്നു.

AI-യിൽ നീതിയിലേക്ക് എങ്ങനെ നീങ്ങാം:

ഈ വിഷയം അധികാരത്തെക്കുറിച്ചുള്ളതാണ്. എന്താണ് അറിവായി കണക്കാക്കേണ്ടതെന്ന് തീരുമാനിക്കുന്നത് ആരാണെന്ന് നമ്മൾ ചോദിക്കണം. ആരുടെ ശബ്ദങ്ങൾക്കാണ് പ്രാധാന്യമെന്ന് നമ്മൾ ചോദിക്കണം.

നമ്മൾ അൽഗോരിതങ്ങളെ തള്ളിക്കളയരുത്. പകരം അവയെ പുനർനിർമ്മിക്കണം. വൈവിധ്യമാർന്ന ശബ്ദങ്ങളെ മറച്ചുവെക്കുന്നതിന് പകരം അവയെ ഉയർത്തിക്കാട്ടുന്ന സംവിധാനങ്ങളാണ് നമുക്ക് വേണ്ടത്.

സ്രോതസ്സ്: https://dev.to/smartmindai/the-algorithmic-construction-of-epistemic-injustice-2026-3n3e