A veces, la reacción negativa llega más rápido que el manual del producto. Meta aprendió esto por las malas cuando implementó silenciosamente una nueva capacidad dentro de su modelo Muse Image AI, solo para cambiar de rumbo días después en medio de una tormenta de críticas. La herramienta permitía a cualquier usuario de Instagram generar imágenes con IA simplemente etiquetando una cuenta pública en su prompt. Al escribir una mención con @, los usuarios podían dirigir al sistema para sintetizar nuevos elementos visuales basados en la apariencia, la estética o el contenido publicado de la cuenta objetivo. Meta ya ha desactivado la función por completo. El episodio representa una de las retiradas más abruptas en el reciente impulso de la empresa por integrar la IA generativa en todas sus plataformas.
La función que desató la indignación
La mecánica era sencilla, y ese era precisamente el problema. Un usuario podía abrir Meta AI, describir una imagen que deseaba y hacer referencia a un usuario público de Instagram. El modelo analizaría entonces las fotos visibles públicamente de esa cuenta y generaría imágenes derivadas que reflejaran el rostro, el cuerpo, el estilo de vestimenta o el enfoque artístico del sujeto. Para actores, fotógrafos, modelos y usuarios cotidianos que mantenían sus perfiles públicos, esto significaba que sus identidades digitales podían ser remezcladas sin ninguna solicitud o advertencia directa.
Meta presentó la función como un acelerador creativo. Es probable que la empresa imaginara a fans generando retratos estilizados de sus creadores o artistas favoritos, improvisando sobre temas visuales. Pero la brecha entre la intención y la implementación era abismal. Debido a que la herramienta no requería el consentimiento afirmativo del propietario de la cuenta, cada perfil público se convirtió en materia prima potencial para cualquiera con un teclado. Las cuentas privadas no se vieron afectadas, pero para los millones de usuarios cuyos perfiles permanecen públicos por razones profesionales o sociales, la plataforma efectivamente declaró su apariencia abierta a la reutilización algorítmica. No se trataba de una extracción masiva de datos (scraping) en el sentido tradicional. Era una síntesis dirigida y bajo demanda de personas reales.
Los críticos señalaron rápidamente que esto invertía la lógica básica del consentimiento digital. La mayoría de las plataformas que permiten el uso de imágenes personales por parte de terceros, incluso bajo términos de servicio amplios, no entregan el control a usuarios aleatorios para clonar la apariencia de alguien a voluntad. La diferencia es importante. La extracción pasiva de fotos públicas para un conjunto de datos de entrenamiento es una batalla ética; la generación activa de deepfakes dirigida por el usuario y vinculada a individuos específicos es otra muy distinta. Al convertir las cuentas públicas en blanco fácil para la síntesis de IA, Meta desdibujó la línea entre la visibilidad pública y la cesión pública de los derechos de identidad.
Riesgos de privacidad y el problema del "opt-out"
Las críticas vinieron de múltiples direcciones y fueron mordaces. Defensores de la privacidad, sindicatos creativos y organizaciones de seguridad se alinearon para señalar que Meta había construido el sistema al revés.
Haley McNamara, directora ejecutiva del National Center on Sexual Exploitation, advirtió que la función podría convertirse en una herramienta obvia para la sextorsión y otras estafas. Su preocupación no era hipotética. El abuso basado en imágenes ha proliferado a medida que las herramientas generativas han mejorado. Un sistema que permite a cualquier usuario aproximar instantáneamente la apariencia de otra persona y colocarla en escenarios arbitrarios elimina la fricción de un proceso que antes requería al menos algo de habilidad técnica. La función de Meta esencialmente industrializó el primer paso de la explotación basada en imágenes.
Lo que complicó aún más las cosas fue