TikTok a commencé à tester un détecteur de deepfakes piloté par l'IA qui permet aux créateurs américains de scanner la plateforme à la recherche de versions non autorisées de leur visage générées par l'IA. Ce service sur inscription signale les vidéos et images synthétiques qui détournent l'apparence d'un créateur.
Pourquoi cette initiative est importante
L'IA générative produit désormais des vidéos hyperréalistes capables d'apposer le visage de n'importe qui sur n'importe quel corps.
Comment l'outil fonctionne
Un petit groupe de créateurs américains ayant choisi de participer reçoit un tableau de bord où le système de TikTok répertorie tout contenu que l'IA signale comme correspondant à leurs traits faciaux vérifiés. Les créateurs examinent les résultats et déposent des signalements contre les publications ou les comptes qui utilisent abusivement leur image.
Pour prévenir les abus, TikTok impose à chaque participant de passer un contrôle d'identité rigoureux via Jumio, un service de vérification tiers. Le contrôle nécessite un scan de selfie en temps réel et une pièce d'identité officielle. TikTok affirme ne pas stocker les pièces d'identité téléchargées ; il utilise les données faciales uniquement pour la correspondance d'apparence au sein du moteur de détection.
Une course aux armements plus large
TikTok n'est pas la première plateforme à déployer une protection contre les deepfakes. YouTube a récemment lancé une fonctionnalité de détection similaire pour tous les utilisateurs adultes, illustrant une volonté de l'industrie de protéger les identités numériques. À mesure que les grands modèles de langage et les modèles de diffusion s'améliorent, les « humains numériques » synthétiques inondent les flux plus rapidement que les modérateurs humains ne peuvent le gérer.
Quelles sont les prochaines étapes
Le projet pilote reste limité aux États-Unis et aux créateurs volontaires.
À retenir : Le test de détection de deepfakes de TikTok marque un tournant décisif vers une protection proactive des identités des créateurs ; son impact dépendra de sa capacité à équilibrer une vérification stricte avec la facilité d'utilisation attendue par les créateurs.