Un enseignant en Inde a été suspendu après qu'une vidéo d'un incident en classe s'est propagée dans un groupe de discussion, et les spectateurs se sont disputés pour savoir si le clip était authentique ou généré par IA. Le tollé met en lumière le « dividende du menteur » – la manière dont la simple existence de médias synthétiques permet à n'importe qui de semer le doute sur des preuves réelles – et expose un angle mort dans la vague actuelle de détecteurs de deepfakes.

L'affaire qui a déclenché l'alerte

Alors que la séquence devenait virale, un débat parallèle a éclaté : certains utilisateurs ont souligné des bugs révélateurs qui pourraient trahir un deepfake, tandis que d'autres affirmaient que la possibilité même de manipulation rendait toute preuve visuelle peu fiable.

Pourquoi les détecteurs de deepfakes actuels sont insuffisants

La plupart des solutions anti-deepfake recherchent des artefacts laissés par les modèles génératifs – des motifs de pixels étranges, un éclairage incohérent ou des indices audio discordants. Ces indices peuvent signaler une origine synthétique, mais ils ne font rien pour confirmer qui apparaît réellement dans le cadre. Dans un tribunal ou une audience disciplinaire, un score de probabilité indiquant qu'une vidéo est « probablement fausse » ne règle pas la question de l'identité. L'accent mis actuellement sur « cette vidéo est-elle fausse ? » laisse un vide lorsque le véritable problème est « cette vidéo montre-t-elle la personne qu'elle prétend montrer ? ».

La nécessité d'une identité biométrique vérifiable

Les enquêteurs ont besoin d'un moyen de prouver, avec une rigueur mathématique, que le visage dans une vidéo appartient à un individu spécifique. Les pipelines de vision par ordinateur modernes extraient un vecteur de caractéristiques de haute dimension – un « embedding » – de chaque visage. En mesurant la distance euclidienne entre deux embeddings, un système quantifie la similitude des visages. Des distances faibles suggèrent la même personne ; des distances plus grandes impliquent un individu différent. Cela fonctionne même lorsque les images sont granuleuses ou mal éclairées, car les embeddings capturent des caractéristiques faciales abstraites plutôt que des valeurs de pixels brutes.

Obstacles pratiques pour les enquêteurs

Deux obstacles empêchent la vérification biométrique d'être à la portée de ceux qui en ont besoin. Premièrement, les outils de classe entreprise qui promettent une grande précision affichent des prix que les petites équipes de recherche ou les enquêteurs indépendants ne peuvent pas se permettre. Deuxièmement, les applications grand public sacrifient la précision au profit de la commodité, affichant des taux de faux positifs élevés qui ne tiendraient pas devant un tribunal. La combinaison du coût et de résultats peu fiables force les enquêteurs à s'appuyer sur des comparaisons visuelles ad hoc qui sont loin d'être scientifiques.

Concevoir des outils capables de tenir devant un tribunal

Les développeurs visant à combler cette lacune devraient suivre une philosophie de conception en trois étapes :

  • Afficher la confiance, pas seulement une réponse binaire. Indiquer la distance entre les embeddings et permettre aux utilisateurs de définir leurs propres seuils. Un score transparent permet à un avocat de plaider pour une norme plus stricte si nécessaire.
  • Vérifier la provenance des fichiers. Examiner les métadonnées, les valeurs de hachage et les URL sources pour détecter toute altération ou erreur d'attribution. Les escrocs intègrent souvent des vidéos dans des contextes trompeurs, un pipeline doit donc signaler les origines suspectes.
  • Prioriser la vitesse et l'efficacité des ressources. Des modèles légers basés sur des bibliothèques open-source peuvent fonctionner sur du matériel modeste, rendant la technologie accessible aux enquêteurs indépendants sans sacrifier la rigueur mathématique.

Au-delà des chiffres bruts, le résultat devrait inclure des aides visuelles : des points de repère faciaux superposés.

À retenir : La véritable bataille ne consiste pas seulement à repérer les vidéos synthétiques ; il s'agit de donner aux enquêteurs un moyen mathématiquement fondé de confirmer qui est à l'écran. Les développeurs qui passeront de la détection de deepfakes à l'identité biométrique vérifiable aideront à empêcher qu'une simple vidéo virale ne détruise une vie.