Des chercheurs du MIT ont découvert que les personnes s'appuyant sur des outils de fact-checking par IA devenaient moins douées pour repérer les fausses informations. Lors d'une expérience de quatre semaines menée auprès de 67 participants, l'IA a fourni des réponses majoritairement correctes, pourtant la capacité des participants eux-mêmes à juger la désinformation a diminué.

Pourquoi cette étude est importante

Les outils de fact-checking apparaissent désormais dans toutes les barres d'outils des navigateurs. La promesse est simple : un algorithme vous indique si un titre ou une image est réel, vous permettant de passer à la suite sans y réfléchir à deux fois. Si la technologie érode également la compétence même qu'elle est censée remplacer, le bénéfice net diminue considérablement. Une société incapable d'évaluer les affirmations de manière indépendante devient plus vulnérable à la manipulation, même lorsqu'une machine semble effectuer le gros du travail.

Déroulement de l'expérience

Les chercheurs ont présenté aux participants un mélange d'informations authentiques et fabriquées. Un système d'IA — suffisamment précis pour répondre correctement la plupart du temps — fournissait un verdict binaire pour chaque élément. Ils ont suivi deux paramètres : l'exactitude de l'IA et les propres jugements des participants lorsque l'IA n'était pas consultée.

Les réponses de l'IA étaient assurées, mais elles ne s'accompagnaient d'aucune explication sur la manière dont le système était parvenu à sa conclusion. Au fil des semaines, les participants qui acceptaient régulièrement la réponse de l'IA ont cessé d'exercer leurs propres facultés critiques.

Implications des résultats

  • Atrophie des compétences : Tout comme un GPS peut émousser le sens de l'orientation d'un conducteur, une IA qui propose des réponses instantanées peut affaiblir la capacité d'analyse de l'utilisateur.
  • Réduction de l'effort mental : La commodité des « réponses rapides » décourage le raisonnement approfondi qui renforce la résilience face à la désinformation.
  • Risque de dépendance excessive : Si de nombreuses personnes adoptent la même habitude, la capacité collective à détecter les mensonges pourrait décliner, rendant la société plus facile à influencer par des récits manipulés.

Un contrepoint à noter

L'IA utilisée dans l'étude était précise, et beaucoup soutiendraient qu'une réponse correcte vaut mieux qu'une supposition. Les chercheurs ne prétendent pas que l'IA est inutile ; ils mettent en garde contre une confiance non critique.

Comment aiguiser votre jugement

Les chercheurs suggèrent de traiter l'IA comme un partenaire d'entraînement plutôt que comme un juge. Au lieu d'accepter la réponse d'emblée, demandez au système de :

  • Présenter son raisonnement étape par étape.
  • Soutenir la thèse opposée à l'affirmation.
  • Identifier les conditions qui rendraient sa réponse erronée.

Une habitude simple — avant de faire confiance à une IA, marquer une pause et se demander « Qu'est-ce qui rendrait cette réponse fausse ? » — force le cerveau à rester engagé. L'effort peut sembler minime, mais il préserve la compétence de vérification indépendante.

À surveiller pour la suite

La conclusion est claire : l'IA peut vous aider à repérer la désinformation, mais seulement si vous gardez le contrôle de votre propre pensée critique.