ИИ-чат-боты способствуют отрицанию Холокоста

ЮНЕСКО и Организация Объединенных Наций выпустили предупреждение. Генеративный ИИ помогает людям распространять отрицание Холокоста и фальсифицировать историю.

Злоумышленники используют ИИ для создания огромного количества фейкового контента. Они используют его для создания поддельных свидетельств очевидцев и измененных исторических фотографий.

Текущие правила безопасности часто не справляются. Пользователи находят способы обхода фильтров с помощью простых промптов. Они не просят об отрицании напрямую. Вместо этого они просят ИИ написать вымышленные истории, ставящие под сомнение исторические факты.

В отчете выделено несколько основных рисков:

  • Модели ИИ предсказывают слова на основе обучающих данных. Если эти данные включают теории заговора, ИИ выдает ложные утверждения.
  • Автоматизированные скрипты генерируют тысячи фейковых статей одновременно.
  • «Мягкое отрицание» использует нейтральный язык, чтобы преуменьшить масштабы геноцида. Машинам трудно это распознать.
  • Дипфейки используют клонированные голоса и видео, чтобы сделать ложь правдоподобной.
  • Генераторы изображений создают фотореалистичные снимки событий, которых никогда не было.

Существуют также языковые барьеры. Правила безопасности часто строго соблюдаются для английского языка, но слабы для таких языков, как арабский, французский или немецкий. Это позволяет дезинформации распространяться по всему миру.

ЮНЕСКО хочет, чтобы технологические компании взяли на себя больше ответственности. Они предлагают компаниям нести ответственность за результаты, которые противоречат доказанным историческим фактам.

Некоторые компании используют специальные системы для проверки фактов по официальным архивам. Однако это пока не является стандартной практикой.

Нам нужна более высокая цифровая грамотность. Вы должны понимать, как работают модели ИИ и как они формируют информацию.

Источник: https://dev.to/autonainews/unesco-warns-ai-chatbots-are-fueling-online-holocaust-denial-4a7e

Дополнительное обучающее сообщество: https://t.me/GyaanSetuAi