𝗧𝗵𝗲 𝗔𝗹𝗴𝗼𝗿𝗶𝘁𝗵𝗺𝗶𝗰 𝗖𝗼𝗻𝘀𝘁𝗿𝘂𝗰𝘁𝗶𝗼𝗻 𝗼𝗳 𝗘𝗽𝗶𝘀𝘁𝗲𝗺𝗶𝗰 𝗜𝗻𝗷𝘂𝘀𝘁𝗶𝗰𝗲
Algoritma membentuk apa yang Anda lihat dan yakini. Mereka menentukan berita mana yang sampai ke beranda Anda dan lagu apa yang diputar di perangkat Anda. Sistem-sistem ini tidak netral. Mereka dapat menciptakan ketidakadilan epistemik.
Ketidakadilan epistemik terjadi ketika orang diperlakukan tidak adil sebagai pihak yang mengetahui (knowers). Hal ini terjadi ketika masyarakat mengabaikan atau mendiskreditkan kelompok tertentu. AI kini mengodekan dan memperluas bias-bias tersebut.
Ada dua jenis utama dari ketidakadilan ini:
- Ketidakadilan testimoni (testimonial injustice): Ini terjadi ketika algoritma memberikan kredibilitas yang lebih rendah kepada seseorang karena prasangka.
- Ketidakadilan hermeneutik (hermeneutical injustice): Ini terjadi ketika alat dan bahasa yang digunakan untuk memahami dunia mengecualikan pengalaman tertentu.
Algoritma bertindak sebagai penjaga gerbang (gatekeepers). Mereka memprioritaskan konten berdasarkan keterlibatan (engagement). Hal ini menciptakan ruang gema (echo chambers). Ini menyembunyikan perspektif dari komunitas yang terpinggirkan.
Masalah data memperburuk siklus ini. Jika data pelatihan kurang beragam, algoritma akan mengabaikan kelompok-kelompok tersebut. Hal ini menyebabkan lingkaran umpan balik ketidakterlihatan (feedback loop of invisibility).
Pilihan desain juga menyebabkan kerugian. Alat moderasi konten sering kali menandai unggahan dari budaya tertentu karena mereka melewatkan nuansa yang ada. Sistem rekomendasi lebih memihak ide-ide arus utama daripada suara minoritas. Hal ini membungkam orang melalui kode.
Kita sering menganggap algoritma sebagai sesuatu yang objektif. Ini adalah sebuah kesalahan. Pilihan manusia membentuk setiap langkah, mulai dari pemilihan data hingga desain sistem. Ketika kita berasumsi bahwa kode itu netral, kita mempersulit upaya untuk menantang keputusan yang tidak adil.
Cara bergerak menuju keadilan dalam AI:
- Gunakan praktik data yang inklusif.
- Bangun algoritma yang transparan.
- Ikuti prinsip-prinsip desain etis.
- Pertahankan pengawasan manusia.
- Berdayakan pengguna untuk mengontrol data mereka.
Isu ini adalah tentang kekuasaan. Kita harus bertanya siapa yang memutuskan apa yang dianggap sebagai pengetahuan. Kita harus bertanya suara siapa yang dianggap penting.
Kita tidak seharusnya menolak algoritma. Kita harus membangunnya kembali. Kita membutuhkan sistem yang memperkuat beragam suara alih-alih menyembunyikannya.
Sumber: https://dev.to/smartmindai/the-algorithmic-construction-of-epistemic-injustice-2026-3n3e