Sự kiến tạo mang tính thuật toán của bất công nhận thức
Thuật toán định hình những gì bạn thấy và tin tưởng. Chúng quyết định tin tức nào sẽ xuất hiện trên bảng tin của bạn và bài hát nào sẽ phát trên thiết bị của bạn. Những hệ thống này không hề trung lập. Chúng có thể tạo ra sự bất công nhận thức.
Bất công nhận thức xảy ra khi con người bị đối xử bất công trong vai trò là chủ thể tri thức. Nó xảy ra khi xã hội phớt lờ hoặc bác bỏ uy tín của một số nhóm người nhất định. Giờ đây, AI đang mã hóa và mở rộng những định kiến này.
Có hai loại bất công chính:
- Bất công nhân chứng: Điều này xảy ra khi một thuật toán giảm bớt sự tin cậy đối với một người vì định kiến.
- Bất công thông diễn: Điều này xảy ra khi các công cụ và ngôn ngữ được sử dụng để hiểu thế giới loại trừ những trải nghiệm nhất định.
Thuật toán đóng vai trò như những người gác cổng. Chúng ưu tiên nội dung dựa trên mức độ tương tác. Điều này tạo ra các phòng vang thông tin, che lấp đi quan điểm của các cộng đồng yếu thế.
Vấn đề về dữ liệu đang thúc đẩy chu kỳ này. Nếu dữ liệu huấn luyện thiếu sự đa dạng, thuật toán sẽ phớt lờ các nhóm đó. Điều này dẫn đến một vòng lặp phản hồi của sự vô hình.
Các lựa chọn thiết kế cũng gây ra tác hại. Các công cụ kiểm duyệt nội dung thường gắn cờ các bài đăng từ các nền văn hóa cụ thể vì chúng bỏ lỡ các sắc thái tinh tế. Các hệ thống gợi ý ưu tiên các ý tưởng chủ lưu hơn là tiếng nói của các nhóm thiểu số. Điều này làm câm lặng con người thông qua mã lệnh.
Chúng ta thường coi thuật toán là khách quan. Đây là một sai lầm. Các lựa chọn của con người định hình mọi bước, từ việc lựa chọn dữ liệu đến thiết kế hệ thống. Khi chúng ta giả định rằng mã lệnh là trung lập, chúng ta sẽ khiến việc thách thức các quyết định bất công trở nên khó khăn hơn.
Cách để hướng tới sự công bằng trong AI:
- Sử dụng các phương pháp dữ liệu mang tính bao hàm.
- Xây dựng các thuật toán minh bạch.
- Tuân thủ các nguyên tắc thiết kế đạo đức.
- Duy trì sự giám sát của con người.
- Trao quyền cho người dùng kiểm soát dữ liệu của họ.
Vấn đề này nằm ở quyền lực. Chúng ta phải đặt câu hỏi ai là người quyết định điều gì được coi là tri thức. Chúng ta phải hỏi tiếng nói của ai mới có giá trị.
Chúng ta không nên bác bỏ thuật toán. Chúng ta phải xây dựng lại chúng. Chúng ta cần những hệ thống giúp khuếch đại các tiếng nói đa dạng thay vì che giấu chúng.
Nguồn: https://dev.to/smartmindai/the-algorithmic-construction-of-epistemic-injustice-2026-3n3e