জ্ঞানতাত্ত্বিক অন্যায়ের অ্যালগরিদমিক নির্মাণ
অ্যালগরিদম নির্ধারণ করে আপনি কী দেখবেন এবং কী বিশ্বাস করবেন। আপনার ফিডে কোন খবর পৌঁছাবে এবং আপনার ডিভাইসে কোন গান বাজবে, তা তারা ঠিক করে দেয়। এই সিস্টেমগুলো নিরপেক্ষ নয়। এগুলো জ্ঞানতাত্ত্বিক অন্যায় (epistemic injustice) তৈরি করতে পারে।
জ্ঞানতাত্ত্বিক অন্যায় তখন ঘটে যখন জ্ঞান অর্জনকারী বা জানাশোনা ব্যক্তি হিসেবে মানুষের সাথে অবিচার করা হয়। এটি তখন ঘটে যখন সমাজ নির্দিষ্ট কিছু গোষ্ঠীকে উপেক্ষা করে বা তাদের অবজ্ঞা করে। এআই (AI) এখন এই পক্ষপাতগুলোকে কোড আকারে অন্তর্ভুক্ত করছে এবং আরও বিস্তৃত করছে।
এই অন্যায়ের প্রধান দুটি ধরন রয়েছে:
- সাক্ষ্যমূলক অন্যায় (Testimonial injustice): এটি তখন ঘটে যখন কোনো অ্যালগরিদম কুসংস্কারের কারণে কোনো ব্যক্তিকে কম বিশ্বাসযোগ্যতা দেয়।
- ব্যাখ্যামূলক অন্যায় (Hermeneutical injustice): এটি তখন ঘটে যখন বিশ্বকে বোঝার জন্য ব্যবহৃত সরঞ্জাম এবং ভাষা নির্দিষ্ট কিছু অভিজ্ঞতাকে বাদ দিয়ে দেয়।
অ্যালগরিদমগুলো গেটকিপার (gatekeepers) হিসেবে কাজ করে। তারা এনগেজমেন্টের (engagement) ভিত্তিতে কন্টেন্টকে অগ্রাধিকার দেয়। এটি ইকো চেম্বার (echo chambers) তৈরি করে, যা প্রান্তিক জনগোষ্ঠীর দৃষ্টিভঙ্গিগুলোকে আড়াল করে ফেলে।
ডেটার সমস্যা এই চক্রটিকে আরও ত্বরান্বিত করে। যদি ট্রেনিং ডেটাতে বৈচিত্র্যের অভাব থাকে, তবে অ্যালগরিদম সেই গোষ্ঠীগুলোকে উপেক্ষা করে। এটি অদৃশ্যতার একটি ফিডব্যাক লুপ (feedback loop) তৈরি করে।
ডিজাইনের সিদ্ধান্তগুলোও ক্ষতির কারণ হতে পারে। কন্টেন্ট মডারেশন (content moderation) টুলগুলো প্রায়শই নির্দিষ্ট সংস্কৃতির পোস্টগুলোকে ফ্ল্যাগ করে কারণ তারা সূক্ষ্ম পার্থক্যগুলো বুঝতে পারে না। রিকমেন্ডেশন সিস্টেমগুলো সংখ্যালঘু কণ্ঠস্বরের চেয়ে মূলধারার ধারণাগুলোকে বেশি প্রাধান্য দেয়। এটি কোডের মাধ্যমে মানুষকে স্তব্ধ করে দেয়।
আমরা প্রায়শই অ্যালগরিদমকে বস্তুনিষ্ঠ বলে মনে করি। এটি একটি ভুল। ডেটা নির্বাচন থেকে শুরু করে সিস্টেম ডিজাইন পর্যন্ত প্রতিটি ধাপে মানুষের সিদ্ধান্ত কাজ করে। যখন আমরা ধরে নিই যে কোড নিরপেক্ষ, তখন আমরা অন্যায্য সিদ্ধান্তগুলোকে চ্যালেঞ্জ করা আরও কঠিন করে তুলি।
এআই-তে কীভাবে ন্যায়বিচারের দিকে এগিয়ে যাওয়া যায়:
- অন্তর্ভুক্তিমূলক ডেটা পদ্ধতি ব্যবহার করুন।
- স্বচ্ছ অ্যালগরিদম তৈরি করুন।
- নৈতিক ডিজাইনের নীতি অনুসরণ করুন।
- মানুষের তদারকি বজায় রাখুন।
- ব্যবহারকারীদের তাদের ডেটা নিয়ন্ত্রণ করার ক্ষমতা দিন।
এই বিষয়টি ক্ষমতার সাথে সম্পর্কিত। আমাদের জিজ্ঞাসা করতে হবে যে কী জ্ঞান হিসেবে গণ্য হবে তা কে ঠিক করে। আমাদের জিজ্ঞাসা করতে হবে কার কণ্ঠস্বর গুরুত্বপূর্ণ।
আমাদের অ্যালগরিদম প্রত্যাখ্যান করা উচিত নয়। আমাদের সেগুলো পুনর্গঠন করতে হবে। আমাদের এমন সিস্টেম প্রয়োজন যা বৈচিত্র্যময় কণ্ঠস্বরগুলোকে আড়াল করার পরিবর্তে সেগুলোকে আরও জোরালো করে তোলে।
উৎস: https://dev.to/smartmindai/the-algorithmic-construction-of-epistemic-injustice-2026-3n3e