Внутренние данные Amazon показывают резкий рост мошенничества с использованием ИИ среди новых пользователей интернета в Индии: количество случаев мошенничества стремительно растет по мере того, как всё больше людей выходит в сеть. Этот всплеск угрожает потребителям, которые только учатся пользоваться цифровыми сервисами, и может подорвать доверие к платформам электронной коммерции.

Почему эта волна важна именно сейчас

В прошлом году в Индии появились миллионы новых пользователей интернета благодаря дешевым смартфонам и расширению широкополосного доступа. Таким пользователям не хватает цифровой грамотности, которая помогает распознать фишинг или поддельные сообщения, что делает их идеальными мишенями для мошенников, использующих инструменты генеративного ИИ. Когда мошенническая схема срабатывает, жертвы теряют деньги, личные данные или и то, и другое, а последствия отражаются и на платформах, обеспечивающих проведение транзакций.

Как ИИ превращают в оружие

  • Синтетический контент — модели генерации текста позволяют мошенникам массово создавать убедительные электронные письма, сообщения в чатах или рекламные объявления.
  • Дипфейки — ИИ накладывает лица и голоса на видео- или аудиоклипы, позволяя мошенникам выдавать себя за сотрудников банков или членов семьи.
  • Приманка при регистрации — мошенники вставляют поддельные ссылки для верификации в приветственные сообщения, надеясь, что новые пользователи кликнут по ним прежде, чем освоят правила безопасности.

Дешевый и простой в использовании ИИ встречается с населением, которое все еще осваивает базовые правила безопасности в сети, что создает эффект «идеального шторма».

Кто может пострадать

  • Потребители — большинством жертв становятся люди, которые только что зарегистрировались в цифровых кошельках, приложениях для покупок или сервисах онлайн-банкинга. Одна успешная атака может уничтожить сбережения, накопленные за недели.
  • Платформы — Amazon и другие сайты электронной коммерции сталкиваются с ростом числа чарджбэков и ущербом для доверия к бренду, если мошенничество остается бесконтрольным.
  • Регуляторы — постоянное мошенничество может вынудить ужесточить надзор за контентом, созданным ИИ, что увеличит расходы технологических компаний на соблюдение нормативных требований.

Что делает Amazon

Команды безопасности Amazon добавляют дополнительные этапы верификации при создании учетных записей и помечают медиафайлы, созданные ИИ, которые соответствуют известным паттернам мошенничества. Компания также сотрудничает с местными НПО для проведения семинаров по цифровой грамотности, ориентированных на новых пользователей.

Контраргумент

Некоторые аналитики утверждают, что шумиха вокруг мошенничества с ИИ преувеличивает реальный риск, отмечая, что на долю традиционных схем мошенничества по-прежнему приходится основная часть убытков. Они указывают на инструменты обнаружения на ранних стадиях, которые уже сейчас перехватывают многие атаки, созданные с помощью ИИ, прежде чем они достигнут потребителей.

За чем стоит следить

  • Регуляторные меры — новые индийские рекомендации по синтетическим медиа могут изменить способы проверки контента платформами.
  • Технологические обновления — достижения в области обнаружения дипфейков могут вернуть преимущество потребителям.
  • Обучение пользователей — эффективность кампаний по повышению цифровой грамотности станет ключевым показателем в сдерживании этой тенденции.

Если мошенничество с использованием ИИ продолжит опережать уровень осведомленности, те самые люди, которые должны извлечь выгоду из цифрового бума в Индии, могут вовсе начать опасаться интернета. Ближайшие несколько месяцев покажут, смогут ли усиленные меры защиты или более грамотные пользователи восстановить доверие.

Источник: Times of India