TikTok ha iniziato a testare un rilevatore di deepfake basato sull'IA che consente ai creator statunitensi di scansionare la piattaforma alla ricerca di versioni non autorizzate del proprio volto generate dall'IA. Il servizio, basato su adesione volontaria, segnala video e immagini sintetiche che utilizzano impropriamente l'immagine di un creator.

Perché questa mossa è importante

L'IA generativa ora produce video iperrealistici in grado di applicare il volto di chiunque su qualsiasi corpo.

Come funziona lo strumento

Un piccolo gruppo di creator statunitensi che ha aderito al servizio riceve una dashboard in cui il sistema di TikTok elenca tutti i contenuti che l'IA segnala come corrispondenti ai propri tratti somatici verificati. I creator esaminano i risultati e inviano segnalazioni contro i post o gli account che utilizzano impropriamente la loro immagine.

Per prevenire abusi, TikTok impone a ogni partecipante di superare un rigoroso controllo di identità tramite Jumio, un servizio di verifica di terze parti. Il controllo richiede una scansione del selfie in tempo reale e un documento d'identità rilasciato dal governo. TikTok afferma di non conservare i documenti caricati; utilizza i dati facciali solo per il confronto dell'immagine all'interno del motore di rilevamento.

Una corsa agli armamenti più ampia

TikTok non è la prima piattaforma a implementare una protezione contro i deepfake. YouTube ha recentemente lanciato una funzione di rilevamento simile per tutti gli utenti adulti, a dimostrazione della spinta del settore verso la protezione delle identità digitali. Con il miglioramento dei modelli linguistici di grandi dimensioni e dei modelli di diffusione, gli "umani digitali" sintetici inondano il feed più velocemente di quanto i moderatori umani possano gestire.

Cosa succederà ora

Il progetto pilota rimane limitato agli Stati Uniti e ai creator che si offrono volontari.

In sintesi: Il test di rilevamento dei deepfake di TikTok segna un cambiamento decisivo verso la protezione proattiva delle identità dei creator; il suo impatto dipenderà da quanto riuscirà a bilanciare una verifica rigorosa con la facilità d'uso che i creator si aspettano.