Soms komt de tegenreactie sneller aan dan de handleiding van het product. Meta kwam hier op de harde manier achter toen het stilletjes een nieuwe functie uitrolde binnen zijn Muse Image AI-model, om deze enkele dagen later weer in te trekken te midden van een storm van kritiek. De tool stelde elke Instagram-gebruiker in staat om AI-afbeeldingen te genereren door simpelweg een openbaar account te taggen in hun prompt. Door een @-vermelding te typen, konden gebruikers het systeem de opdracht geven om nieuwe beelden te synthetiseren die gebaseerd waren op het uiterlijk, de esthetiek of de geplaatste content van het doelaccount. Meta heeft de functie inmiddels volledig uitgeschakeld. Deze episode staat te boek als een van de meest abrupte terugtrekkingen in de recente pogingen van het bedrijf om generatieve AI te integreren in al zijn platforms.
De functie die voor verontwaardiging zorgde
De werking was eenvoudig, en dat was precies het probleem. Een gebruiker kon Meta AI openen, een afbeelding beschrijven die hij wilde, en verwijzen naar een openbaar Instagram-account. Het model zou vervolgens de publiekelijk zichtbare foto's van dat account analyseren en afgeleide beelden genereren die het gezicht, het lichaam, de kledingstijl of de artistieke benadering van het onderwerp weerspiegelden. Voor acteurs, fotografen, modellen en dagelijkse gebruikers die hun profielen openbaar hielden, betekende dit dat hun digitale identiteit geremixt kon worden zonder enige directe aanvraag of waarschuwing.
Meta presenteerde de functie als een creatieve versneller. Het bedrijf stelde zich waarschijnlijk voor dat fans gestileerde portretten zouden maken van hun favoriete makers of artiesten, waarbij ze spelen met visuele thema's. Maar de kloof tussen de intentie en de uitvoering was enorm. Omdat de tool geen expliciete toestemming vereiste van de eigenaar van het account, werd elk openbaar profiel potentiële grondstof voor iedereen met een toetsenbord. Privé-accounts bleven ongemoeid, maar voor de miljoenen gebruikers wiens profielen om professionele of sociale redenen openbaar zijn, verklaarde het platform hun uiterlijk effectief tot algoritmisch hergebruik. Het was geen bulk data scraping in de traditionele zin. Het was gerichte, on-demand synthese van echte mensen.
Critici wezen er snel op dat dit de basislogica van digitale toestemming omdraaide. De meeste platforms die gebruik door derden van persoonlijke beelden toestaan, zelfs onder brede gebruiksvoorwaarden, geven niet de controle aan willekeurige gebruikers om het uiterlijk van iemand naar believen te klonen. Het verschil is cruciaal. Passief scrapen van openbare foto's voor een trainingsdataset is de ene ethische strijd; actieve, door gebruikers gestuurde deepfake-generatie die gekoppeld is aan specifieke individuen is een geheel andere. Door openbare accounts als prooi te bestempelen voor AI-synthese, vervaagde Meta de grens tussen publieke zichtbaarheid en het publiekelijk opgeven van identiteitsrechten.
Privacyrisico's en het "opt-out"-probleem
De kritiek kwam uit verschillende hoeken en was scherp. Privacyvoorvechters, creatieve vakbonden en veiligheidsorganisaties sloten zich allemaal aan om aan te geven dat Meta het systeem achterstevoren had gebouwd.
Haley McNamara, uitvoerend directeur van het National Center on Sexual Exploitation, waarschuwde dat de functie een voor de hand liggend instrument voor sextortion en andere scams zou kunnen worden. Haar bezorgdheid was niet hypothetisch. Misbruik op basis van afbeeldingen is in hoog tempo toegenomen naarmate generatieve tools verbeterden. Een systeem dat elke gebruiker in staat stelt om direct het uiterlijk van een ander persoon te benaderen en dit in willekeurige scenario's te plaatsen, verlaagt de drempel voor een proces dat voorheen ten minste enige technische vaardigheid vereiste. De functie van Meta industrialiseerde in feite de eerste stap van misbruik op basis van afbeeldingen.
De zaak werd nog complexer door