Comment nous utilisons l'IA sans inventer de faits

Une IA vous dira qu'un outil propose une version gratuite alors que ce n'est pas le cas. Elle vous donnera un ancien tarif ou une fonctionnalité qui n'existe pas. Il ne s'agit pas de fautes de frappe. Le modèle se contente de combler les lacunes avec des mots qui semblent cohérents.

Si vous publiez des avis, cette erreur est dangereuse. Elle pousse vos lecteurs à s'abonner aux mauvais forfaits.

Nous utilisons l'IA pour rédiger nos articles. Nous vous informons chaque fois qu'une IA intervient dans un article. Notre objectif est d'empêcher l'IA d'inventer des faits. Voici notre processus.

Nous séparons deux tâches. Nous ne laissons pas l'IA faire les deux.

  • Tâche 1 : Rédaction du texte.
  • Tâche 2 : Recherche des faits.

L'IA peut effectuer la première tâche. Elle n'est jamais autorisée à effectuer la seconde.

Chaque fait présent dans nos avis provient d'une source que nous vérifions nous-mêmes. Nous consultons les pages de tarifs, les journaux de modifications et la documentation. Nous consignons ces faits dans un document de notes avec une URL et une date. Ce n'est qu'ensuite que l'IA rédige le texte autour de ces faits.

Nos prompts sont différents. La plupart des gens demandent : « Parle-moi des tarifs de cet outil. » Nous disons : « Voici quatre faits concernant les tarifs, vérifiés aujourd'hui. Utilise uniquement ces faits pour rédiger un paragraphe. Dis-moi si tu souhaites ajouter autre chose. »

Cela transforme la tendance de l'IA à mentir en une liste que l'humain doit vérifier.

Nous suivons ces règles :

  • Nous ne faisons pas confiance aux chiffres sans source. Tout prix, limite ou date est considéré comme suspect jusqu'à ce que nous le prouvions avec une source primaire.
  • Nous ne laissons pas l'IA citer de sources. Si l'IA dit « selon une étude », nous supprimons la phrase, à moins que nous n'ayons le lien réel.
  • Nous utilisons l'IA pour la structure. Elle nous aide à organiser les notes, à corriger la grammaire ou à construire l'ossature des tableaux. Ces tâches ne nécessitent pas que l'IA connaisse des faits réels.
  • Nous effectuons deux lectures distinctes. La première lecture est dédiée à la qualité. La seconde lecture est uniquement consacrée aux affirmations. Nous nous demandons : « D'où vient cette phrase spécifique ? » Si elle ne figure pas dans nos notes, nous la supprimons.

Un avis peut être correct aujourd'hui et erroné dans trois mois. Les outils modifient leurs tarifs. Nous conservons des liens vers des sources datées afin de pouvoir vérifier nos faits périodiquement.

Le système est simple :

  • L'IA rédige.
  • Les humains sont responsables des faits.
  • Chaque affirmation possède une source datée.
  • Nous vérifions deux fois avant de publier.

Ne demandez pas à l'IA d'être ce qu'elle ne peut pas être.

Source : https://dev.to/pickuma/how-we-use-ai-without-letting-it-hallucinate-into-reviews-1of5