TikTok ha comenzado a probar un detector de deepfakes impulsado por IA que permite a los creadores de EE. UU. escanear la plataforma en busca de versiones no autorizadas de sus rostros generadas por IA. El servicio de participación voluntaria marca videos e imágenes sintéticas que suplantan la apariencia de un creador.
Por qué este movimiento es importante
La IA generativa ahora produce videos hiperrealistas que pueden colocar el rostro de cualquier persona en cualquier cuerpo.
Cómo funciona la herramienta
Un pequeño grupo de creadores de EE. UU. que aceptaron participar recibe un panel de control donde el sistema de TikTok enumera cualquier contenido que la IA marque como coincidente con sus rasgos faciales verificados. Los creadores revisan las coincidencias y presentan denuncias contra las publicaciones o cuentas que hagan un uso indebido de su imagen.
Para evitar abusos, TikTok obliga a cada participante a superar una verificación de identidad de alta fricción a través de Jumio, un servicio de verificación de terceros. La verificación requiere un escaneo de selfie en tiempo real y una identificación oficial emitida por el gobierno. TikTok afirma que no almacena las identificaciones cargadas; utiliza los datos faciales únicamente para la comparación de apariencia dentro del motor de detección.
La carrera armamentista más amplia
TikTok no es la primera plataforma en implementar una salvaguarda contra los deepfakes. YouTube lanzó recientemente una función de detección similar para todos los usuarios adultos, lo que muestra un impulso de la industria para proteger las identidades digitales. A medida que los grandes modelos de lenguaje y los modelos de difusión mejoran, los "humanos digitales" sintéticos inundan el feed más rápido de lo que los moderadores manuales pueden manejar.
Qué sigue
El piloto sigue limitado a los Estados Unidos y a los creadores que se ofrecen como voluntarios.
Conclusión: La prueba de detección de deepfakes de TikTok marca un cambio decisivo hacia la protección proactiva de las identidades de los creadores; su impacto dependerá de qué tan bien logre equilibrar la verificación estricta con la facilidad que los creadores esperan.