A volte la reazione negativa arriva più velocemente del manuale d'uso. Meta lo ha imparato a proprie spese quando ha introdotto silenziosamente una nuova funzionalità all'interno del suo modello Muse Image AI, per poi cambiare rotta pochi giorni dopo in mezzo a una tempesta di critiche. Lo strumento permetteva a qualsiasi utente di Instagram di generare immagini AI semplicemente taggando un account pubblico nel proprio prompt. Digitando una menzione con @, gli utenti potevano istruire il sistema a sintetizzare nuovi contenuti visivi basati sull'aspetto, l'estetica o i contenuti pubblicati dell'account bersaglio. Meta ha ora disabilitato completamente la funzione. L'episodio rappresenta una delle ritirate più brusche nella recente spinta dell'azienda a integrare l'IA generativa su tutte le sue piattaforme.
La funzione che ha scatenato l'indignazione
Il meccanismo era semplice, ed era proprio questo il problema. Un utente poteva aprire Meta AI, descrivere un'immagine che desiderava e fare riferimento a un handle Instagram pubblico. Il modello avrebbe quindi analizzato le foto visibili pubblicamente di quell'account e generato immagini derivate che richiamassero il volto, il corpo, lo stile di abbigliamento o l'approccio artistico del soggetto. Per attori, fotografi, modelli e utenti comuni che mantenevano i propri profili pubblici, ciò significava che le loro identità digitali potevano essere rimixate senza alcuna richiesta diretta o preavviso.
Meta ha presentato la funzione come un acceleratore creativo. L'azienda probabilmente immaginava fan che generavano ritratti stilizzati dei loro creatori o artisti preferiti, reinterpretando temi visivi. Ma il divario tra intenzione e implementazione era abissale. Poiché lo strumento non richiedeva alcun consenso esplicito dal proprietario dell'account, ogni profilo pubblico diventava potenziale materia prima per chiunque avesse una tastiera. Gli account privati non sono stati interessati, ma per i milioni di utenti i cui profili rimangono pubblici per ragioni professionali o sociali, la piattaforma ha di fatto dichiarato il proprio aspetto aperto al riutilizzo algoritmico. Non si trattava di scraping massivo di dati nel senso tradizionale. Era una sintesi mirata e on-demand di persone reali.
I critici hanno subito sottolineato come ciò invertisse la logica fondamentale del consenso digitale. La maggior parte delle piattaforme che consentono l'uso di immagini personali da parte di terzi, anche in base a termini di servizio molto ampi, non affida il controllo a utenti casuali per clonare l'aspetto di qualcuno a piacimento. La differenza è importante. Lo scraping passivo di foto pubbliche per un dataset di addestramento è una battaglia etica; la generazione di deepfake attiva e diretta dall'utente, legata a individui specifici, è un'altra completamente. Rendendo gli account pubblici un bersaglio facile per la sintesi IA, Meta ha sfumato il confine tra visibilità pubblica e rinuncia pubblica ai diritti d'identità.
Rischi per la privacy e il problema dell' "opt-out"
Le critiche sono arrivate da più direzioni e sono state mordaci. Difensori della privacy, sindacati creativi e organizzazioni per la sicurezza si sono schierati per sottolineare che Meta aveva costruito il sistema al contrario.
Haley McNamara, Direttrice Esecutiva del National Center on Sexual Exploitation, ha avvertito che la funzione potrebbe diventare uno strumento evidente per la sextortion e altre truffe. La sua preoccupazione non era ipotetica. Gli abusi basati sulle immagini sono proliferati con il miglioramento degli strumenti generativi. Un sistema che consente a qualsiasi utente di approssimare istantaneamente l'aspetto di un'altra persona e di collocarlo in scenari arbitrari elimina l'attrito da un processo che in precedenza richiedeva almeno una certa competenza tecnica. La funzione di Meta ha essenzialmente industrializzato il primo passo dello sfruttamento basato sulle immagini.
A complicare ulteriormente le cose è stato