I ricercatori del MIT hanno scoperto che le persone che si sono affidate ai fact-checker basati sull'IA sono diventate meno brave a individuare le fake news. In un esperimento della durata di quattro settimane condotto su 67 partecipanti, l'IA ha fornito risposte per lo più corrette, eppure la capacità degli stessi partecipanti di giudicare la disinformazione è diminuita.

Perché lo studio è importante

Gli strumenti di fact-checking appaiono ormai in ogni barra degli strumenti dei browser. La promessa è semplice: un algoritmo ti dice se un titolo o un'immagine è reale, permettendoti di andare avanti senza pensarci due volte. Se la tecnologia erode anche la stessa abilità che dovrebbe sostituire, il beneficio netto si riduce drasticamente. Una società che non è in grado di valutare le affermazioni in modo indipendente diventa più vulnerabile alla manipolazione, anche quando una macchina sembra svolgere il lavoro pesante.

Come si è svolto l'esperimento

I ricercatori hanno mostrato ai partecipanti un mix di notizie autentiche e fabbricate. Un sistema di IA — sufficientemente accurato da rispondere correttamente la maggior parte delle volte — ha fornito un verdetto binario per ogni notizia. Sono stati monitorati due aspetti: la correttezza dell'IA e i giudizi dei partecipanti stessi quando l'IA non veniva consultata.

Le risposte dell'IA erano sicure, ma arrivavano senza alcuna spiegazione su come il sistema fosse giunto alla sua conclusione. Nel corso delle settimane, i partecipanti che accettavano regolarmente la risposta dell'IA hanno smesso di esercitare le proprie facoltà critiche.

Cosa implicano i risultati

  • Atrofia delle competenze: Proprio come un GPS può smussare il senso dell'orientamento di un conducente, un'IA che offre risposte istantanee può indebolire il muscolo analitico dell'utente.
  • Riduzione dello sforzo mentale: La comodità delle "risposte rapide" scoraggia il ragionamento profondo necessario per costruire resilienza contro la disinformazione.
  • Potenziale eccesso di affidamento: Se molte persone adottano la stessa abitudine, la capacità collettiva di rilevare le falsità potrebbe diminuire, rendendo la società più facile da influenzare con narrazioni costruite a tavolino.

Un punto di vista da considerare

L'IA utilizzata nello studio era accurata, e molti sosterrebbero che una risposta corretta sia meglio di un'ipotesi. I ricercatori non affermano che l'IA sia inutile; avvertono contro un affidamento acritico.

Come mantenere il proprio giudizio acuto

I ricercatori suggeriscono di trattare l'IA come un sparring partner piuttosto che come un giudice. Invece di accettare la risposta così com'è, chiedi al sistema di:

  • Mostrare il proprio ragionamento passo dopo passo.
  • Argomentare il punto di vista opposto all'affermazione.
  • Identificare le condizioni che renderebbero errata la sua risposta.

Una semplice abitudine — prima di fidarsi di un'IA, fermarsi e chiedersi "Cosa renderebbe falsa questa risposta?" — costringe il cervello a rimanere attivo. Lo sforzo può essere minimo, ma preserva la capacità di verifica indipendente.

Cosa osservare in futuro

Il messaggio è chiaro: l'IA può aiutarti a individuare la disinformazione, ma solo se mantieni il tuo pensiero critico al posto di guida.