O TikTok começou a testar um detector de deepfakes baseado em IA que permite que criadores dos EUA vasculhem a plataforma em busca de versões não autorizadas de seus rostos geradas por IA. O serviço opcional sinaliza vídeos e imagens sintéticas que sequestram a imagem de um criador.
Por que essa iniciativa é importante
A IA generativa agora produz vídeos hiper-realistas que podem colocar o rosto de qualquer pessoa em qualquer corpo.
Como a ferramenta funciona
Um pequeno grupo de criadores dos EUA que aderiram ao serviço recebe um painel onde o sistema do TikTok lista qualquer conteúdo que a IA sinalize como correspondente às suas características faciais verificadas. Os criadores revisam os resultados e registram denúncias contra postagens ou contas que façam uso indevido de sua imagem.
Para evitar abusos, o TikTok exige que cada participante passe por uma verificação de identidade rigorosa por meio da Jumio, um serviço de verificação de terceiros. A verificação requer uma varredura de selfie em tempo real e um documento de identidade emitido pelo governo. O TikTok afirma que não armazena os documentos enviados; ele utiliza os dados faciais apenas para a correspondência de semelhança dentro do mecanismo de detecção.
A corrida armamentista mais ampla
O TikTok não é a primeira plataforma a lançar uma salvaguarda contra deepfakes. O YouTube lançou recentemente um recurso de detecção semelhante para todos os usuários adultos, mostrando um esforço do setor para proteger identidades digitais. À medida que os grandes modelos de linguagem e os modelos de difusão melhoram, "humanos digitais" sintéticos inundam o feed mais rápido do que os moderadores manuais conseguem lidar.
O que vem a seguir
O projeto piloto permanece limitado aos Estados Unidos e aos criadores que se voluntariarem.
Conclusão: O teste de detecção de deepfakes do TikTok marca uma mudança decisiva em direção à proteção proativa das identidades dos criadores; seu impacto dependerá de quão bem ele equilibrará a verificação rigorosa com a facilidade que os criadores esperam.