Los chatbots de IA alimentan el negacionismo del Holocausto

La UNESCO y las Naciones Unidas han emitido una advertencia. La IA generativa está ayudando a las personas a difundir el negacionismo del Holocausto y la historia falsa.

Actores malintencionados utilizan la IA para crear grandes cantidades de contenido falso. La emplean para fabricar testimonios de testigos oculares falsos y fotos históricas alteradas.

Las reglas de seguridad actuales suelen fallar. Los usuarios encuentran formas de eludir los filtros mediante prompts sencillos. No solicitan el negacionismo directamente; en su lugar, piden a la IA que escriba historias de ficción que cuestionen hechos históricos.

El informe destaca varios riesgos importantes:

  • Los modelos de IA predicen palabras basándose en los datos de entrenamiento. Si esos datos incluyen teorías de conspiración, la IA produce afirmaciones falsas.
  • Los scripts automatizados generan miles de artículos falsos a la vez.
  • El "negacionismo suave" utiliza un lenguaje neutral para minimizar la escala del genocidio. Esto es difícil de detectar para las máquinas.
  • Los deepfakes utilizan voces y vídeos clonados para hacer que las mentiras parezcan reales.
  • Los generadores de imágenes crean fotos fotorrealistas de eventos que nunca ocurrieron.

También existen brechas lingüísticas. Las reglas de seguridad suelen ser sólidas en inglés, pero débiles en idiomas como el árabe, el francés o el alemán. Esto permite que la desinformación se propague globalmente.

La UNESCO quiere que las empresas tecnológicas asuman más responsabilidad. Sugieren que las empresas deberían ser responsables de los resultados que contradigan hechos históricos probados.

Algunas empresas utilizan sistemas especiales para contrastar hechos con archivos oficiales. Sin embargo, esto aún no es una práctica estándar.

Necesitamos una mejor alfabetización digital. Es necesario comprender cómo funcionan los modelos de IA y cómo moldean la información.

Fuente: https://dev.to/autonainews/unesco-warns-ai-chatbots-are-fueling-online-holocaust-denial-4a7e

Comunidad de aprendizaje opcional: https://t.me/GyaanSetuAi