Les chatbots d'IA alimentent le négationnisme de la Shoah

L'UNESCO et les Nations Unies ont émis un avertissement. L'IA générative aide à la propagation du négationnisme de la Shoah et de l'histoire falsifiée.

Des acteurs malveillants utilisent l'IA pour créer de grandes quantités de contenus factices. Ils s'en servent pour fabriquer de faux témoignages oculaires et des photos historiques altérées.

Les règles de sécurité actuelles échouent souvent. Les utilisateurs trouvent des moyens de contourner les filtres grâce à des invites simples. Ils ne demandent pas directement le déni. Au lieu de cela, ils demandent à l'IA d'écrire des récits de fiction qui remettent en question les faits historiques.

Le rapport souligne plusieurs risques majeurs :

  • Les modèles d'IA prédisent les mots en fonction des données d'entraînement. Si ces données incluent des théories du complot, l'IA produit des affirmations fausses.
  • Des scripts automatisés génèrent des milliers de faux articles en une seule fois.
  • Le « déni feutré » utilise un langage neutre pour minimiser l'ampleur du génocide. Il est difficile pour les machines de détecter cela.
  • Les deepfakes utilisent des voix et des vidéos clonées pour donner une apparence de réalité aux mensonges.
  • Les générateurs d'images créent des photos photoréalistes d'événements qui n'ont jamais eu lieu.

Des lacunes linguistiques existent également. Les règles de sécurité sont souvent robustes en anglais, mais faibles dans des langues comme l'arabe, le français ou l'allemand. Cela permet à la désinformation de se propager à l'échelle mondiale.

L'UNESCO souhaite que les entreprises technologiques assument davantage de responsabilités. Elle suggère que les entreprises devraient être tenues responsables des contenus produits qui contredisent des faits historiques avérés.

Certaines entreprises utilisent des systèmes spéciaux pour vérifier les faits par rapport aux archives officielles. Cependant, il ne s'agit pas encore d'une pratique standard.

Nous avons besoin d'une meilleure littératie numérique. Il est essentiel de comprendre comment les modèles d'IA fonctionnent et comment ils façonnent l'information.

Source : https://dev.to/autonainews/unesco-warns-ai-chatbots-are-fueling-online-holocaust-denial-4a7e

Communauté d'apprentissage optionnelle : https://t.me/GyaanSetuAi