Des chercheurs en IA ont découvert un effort coordonné de la part d'un réseau d'environ 150 sites d'actualités à faible trafic visant à inonder les données d'entraînement des grands modèles de langage (LLM) de récits pro-Kremlin. Ces sites, connus collectivement sous le nom de réseau Pravda, publient environ trois millions d'articles par an, et leur contenu apparaît désormais dans le jeu de données Common Crawl qui alimente de nombreux systèmes d'IA commerciaux.

Comment fonctionne le pipeline de désinformation

Le réseau Pravda ne cherche pas à attirer des lecteurs humains. Au lieu de cela, chaque site publie des articles répétitifs qui reprennent un ensemble restreint d'arguments. En saturant le texte de mots-clés privilégiés par les moteurs de recherche et les robots d'indexation (web crawlers), les sites augmentent les chances qu'un modèle d'IA les rencontre lors de la collecte de données.

Deux mécanismes d'empoisonnement sont en jeu :

  • L'empoisonnement au moment de la récupération (Retrieval-time poisoning) – Lorsqu'un assistant IA extrait des informations en direct du web, il peut faire remonter un article de Pravda aux côtés de sources légitimes. Bloquer les domaines malveillants connus peut limiter cette exposition.
  • L'empoisonnement au moment de l'entraînement (Training-time poisoning) – Si les articles s'insèrent dans les vastes corpus utilisés pour le pré-entraînement d'un modèle, les fausses affirmations deviennent une partie de la connaissance interne du modèle. Supprimer un tel contenu après coup est bien plus difficile.

Des chercheurs ont déjà tracé des articles de Pravda à l'intérieur de Common Crawl, une archive publique utilisée pour entraîner de nombreux modèles d'IA. Cela signifie que l'empoisonnement n'est pas hypothétique ; il a déjà altéré la base de connaissances de modèles sur lesquels de nombreux utilisateurs s'appuient aujourd'hui.

Pourquoi c'est important

Ne faites pas confiance à l'IA simplement parce qu'elle dit que « de nombreuses sources sont d'accord ». Si vous construisez des outils d'IA, utilisez des listes de blocage pour les sites de désinformation connus. N'utilisez pas le « nombre de mentions » comme critère de vérité. La quantité ne fait pas la qualité. Vérifiez tout ce qu'une IA vous dit, surtout si cela semble biaisé.

Internet est l'ensemble de données d'entraînement de notre technologie future. Quiconque possède un site web peut tenter de biaiser les machines sur lesquelles nous comptons.

Ce que les développeurs peuvent faire dès maintenant

  • Maintenir des listes de blocage – Ajoutez les domaines de désinformation connus aux filtres d'exploration ; une liste de blocage empêche l'exposition tant au moment de la récupération qu'au moment de l'entraînement.
  • Repenser les heuristiques de fréquence – Arrêtez d'assimiler le nombre de mentions à la véracité. Une affirmation répétée sur des dizaines de sites de faible qualité peut l'emporter sur une source réputée dans un modèle naïf basé sur la fréquence.
  • Appliquer des contrôles de provenance – Remontez l'information jusqu'à sa source originale. Si la chaîne s'arrête sur un site au trafic négligeable et ayant un historique de propagande, signalez le résultat pour examen.
  • Mettre en œuvre un assainissement post-entraînement – Effectuez des audits ciblés sur les résultats des modèles traitant de sujets politiquement sensibles. Des réviseurs humains peuvent détecter des biais systématiques que les filtres automatisés ne voient pas.

Contre-arguments et défis

Équilibrer sécurité et inclusivité reste un problème ouvert.

Perspectives

Le réseau Pravda montre comment des acteurs étatiques peuvent instrumentaliser le web ouvert pour façonner la prochaine génération d'IA.

À retenir : L'intégrité de l'IA repose sur la propreté des données dont elle apprend. Un afflux coordonné de sites à faible trafic et chargés de propagande peut déjà ancrer des contrevérités dans les modèles en lesquels nous avons confiance. Les développeurs doivent traiter la réputation des sources comme une priorité absolue, et non comme une réflexion après coup, afin d'empêcher les machines que nous construisons de devenir les porte-paroles involontaires de la désinformation.