𝗟𝗮 𝗰𝗼𝘀𝘁𝗿𝘂𝘇𝗶𝗼𝗻𝗲 𝗮𝗹𝗴𝗼𝗿𝗶𝘁𝗺𝗶𝗰𝗮 𝗱𝗲𝗹𝗹'𝗶𝗻𝗴𝗶𝘂𝘀𝘁𝗶𝘇𝗶𝗮 𝗲𝗽𝗶𝘀𝘁𝗲𝗺𝗶𝗰𝗮
Gli algoritmi modellano ciò che vedi e credi. Decidono quali notizie arrivano nel tuo feed e quali canzoni vengono riprodotte sul tuo dispositivo. Questi sistemi non sono neutrali. Possono creare ingiustizia epistemica.
L'ingiustizia epistemica si verifica quando le persone vengono trattate ingiustamente in quanto soggetti conoscenti. Accade quando la società ignora o scredita determinati gruppi. L'IA ora codifica ed espande questi pregiudizi.
Esistono due tipi principali di questa ingiustizia:
- Ingiustizia testimoniale: accade quando un algoritmo attribuisce meno credibilità a una persona a causa di pregiudizi.
- Ingiustizia ermeneutica: accade quando gli strumenti e il linguaggio utilizzati per comprendere il mondo escludono determinate esperienze.
Gli algoritmi agiscono come gatekeeper. Prioritizzano i contenuti in base all'engagement. Ciò crea camere dell'eco (echo chambers). Nasconde le prospettive delle comunità emarginate.
Il problema dei dati alimenta questo ciclo. Se i dati di addestramento mancano di diversità, l'algoritmo ignora quei gruppi. Ciò porta a un ciclo di feedback di invisibilità.
Anche le scelte di progettazione causano danni. Gli strumenti di moderazione dei contenuti spesso segnalano post provenienti da culture specifiche perché non ne colgono le sfumature. I sistemi di raccomandazione favoriscono le idee mainstream rispetto alle voci delle minoranze. Questo mette a tacere le persone attraverso il codice.
Spesso trattiamo gli algoritmi come oggettivi. È un errore. Le scelte umane modellano ogni fase, dalla selezione dei dati alla progettazione del sistema. Quando presumiamo che il codice sia neutrale, rendiamo più difficile contestare le decisioni ingiuste.
Come muoversi verso la giustizia nell'IA:
- Utilizzare pratiche di dati inclusive.
- Costruire algoritmi trasparenti.
- Seguire principi di progettazione etica.
- Mantenere la supervisione umana.
- Dare agli utenti il potere di controllare i propri dati.
Questa questione riguarda il potere. Dobbiamo chiederci chi decide cosa conta come conoscenza. Dobbiamo chiederci quali voci abbiano importanza.
Non dovremmo rifiutare gli algoritmi. Dobbiamo ricostruirli. Abbiamo bisogno di sistemi che amplifichino le voci diverse invece di nasconderle.
Fonte: https://dev.to/smartmindai/the-algorithmic-construction-of-epistemic-injustice-2026-3n3e