Parfois, le retour de bâton arrive plus vite que le manuel d'utilisation. Meta l'a appris à ses dépens lorsqu'elle a discrètement déployé une nouvelle capacité au sein de son modèle Muse Image AI, pour finalement faire marche arrière quelques jours plus tard face à une tempête de critiques. L'outil permettait à n'importe quel utilisateur d'Instagram de générer des images par IA en taguant simplement un compte public dans son prompt. En tapant une mention @, les utilisateurs pouvaient diriger le système pour qu'il synthétise de nouveaux visuels s'inspirant de la ressemblance, de l'esthétique ou du contenu publié du compte cible. Meta a désormais entièrement désactivé cette fonctionnalité. Cet épisode constitue l'un des retraits les plus brusques dans la récente offensive de l'entreprise pour intégrer l'IA générative sur l'ensemble de ses plateformes.
La fonctionnalité qui a suscité l'indignation
Le mécanisme était simple, et c'était précisément là le problème. Un utilisateur pouvait ouvrir Meta AI, décrire l'image qu'il souhaitait et faire référence à un nom d'utilisateur Instagram public. Le modèle analysait ensuite les photos visibles publiquement de ce compte et générait des images dérivées qui faisaient écho au visage, au corps, au style vestimentaire ou à l'approche artistique du sujet. Pour les acteurs, les photographes, les mannequins et les utilisateurs ordinaires dont les profils sont publics, cela signifiait que leur identité numérique pouvait être remixée sans aucune demande directe ni avertissement.
Meta présentait cette fonction comme un accélérateur de créativité. L'entreprise imaginait probablement des fans générant des portraits stylisés de leurs créateurs ou artistes préférés, jouant avec des thèmes visuels. Mais l'écart entre l'intention et la mise en œuvre était abyssal. Comme l'outil ne nécessitait aucun consentement explicite du propriétaire du compte, chaque profil public devenait une matière première potentielle pour quiconque possédait un clavier. Les comptes privés n'étaient pas affectés, mais pour les millions d'utilisateurs dont les profils restent publics pour des raisons professionnelles ou sociales, la plateforme déclarait de fait que leur image était ouverte à une réutilisation algorithmique. Il ne s'agissait pas de collecte massive de données (scraping) au sens traditionnel. Il s'agissait d'une synthèse ciblée et à la demande de personnes réelles.
Les critiques ont rapidement souligné que cela inversait la logique fondamentale du consentement numérique. La plupart des plateformes qui autorisent l'utilisation par des tiers d'images personnelles, même dans le cadre de conditions d'utilisation larges, ne donnent pas le contrôle à des utilisateurs aléatoires pour cloner l'apparence de quelqu'un à leur guise. La différence est cruciale. Le scraping passif de photos publiques pour constituer un ensemble de données d'entraînement est un combat éthique ; la génération de deepfakes active et dirigée par l'utilisateur, liée à des individus spécifiques, en est un tout autre. En faisant des comptes publics des cibles faciles pour la synthèse par IA, Meta a brouillé la frontière entre la visibilité publique et l'abandon public des droits à l'identité.
Risques pour la vie privée et le problème de l'« opt-out »
Les critiques sont venues de plusieurs directions, et elles ont été cinglantes. Les défenseurs de la vie privée, les syndicats de créateurs et les organisations de sécurité se sont tous alignés pour souligner que Meta avait conçu le système à l'envers.
Haley McNamara, directrice exécutive du National Center on Sexual Exploitation, a averti que la fonctionnalité pourrait devenir un outil évident de sextorsion et d'autres arnaques. Son inquiétude n'était pas hypothétique. Les abus basés sur l'image ont proliféré à mesure que les outils génératifs s'amélioraient. Un système qui permet à n'importe quel utilisateur d'approximer instantanément la ressemblance d'une autre personne et de la placer dans des scénarios arbitraires supprime les obstacles d'un processus qui nécessitait auparavant au moins une certaine compétence technique. La fonctionnalité de Meta a essentiellement industrialisé la première étape de l'exploitation basée sur l'image.
Pour compliquer davantage la situation, il y avait