Внутрішні дані Amazon свідчать про різке зростання кількості шахрайств із використанням ШІ серед найновіших інтернет-користувачів в Індії: кількість випадків шахрайства стрімко зростає в міру того, як більше людей виходить в онлайн. Цей сплеск загрожує споживачам, які тільки вчаться користуватися цифровими сервісами, і може підірвати довіру до платформ електронної комерції.

Чому ця хвиля є важливою саме зараз

Минулого року в Індії з'явилися мільйони користувачів інтернету, які користуються ним вперше, завдяки дешевим смартфонам та розширенню широкосмугового доступу. Таким користувачам бракує цифрової грамотності, яка допомагає розпізнавати фішинг або підроблені повідомлення, що робить їх головними мішенями для шахраїв, які тепер використовують інструменти генеративного ШІ. Коли шахрайство стається успішно, жертви втрачають гроші, персональні дані або і те, і інше, а наслідки відчувають і платформи, на яких здійснюються транзакції.

Як ШІ використовується як зброя

  • Синтетичний контент – моделі генерації тексту дозволяють шахраям масово створювати переконливі електронні листи, повідомлення в чатах або рекламу.
  • Дипфейки – ШІ поєднує обличчя та голоси з відео- або аудіокліпами, дозволяючи шахраям видавати себе за банківських агентів або членів родини.
  • Приманка для реєстрації – шахраї вбудовують фейкові посилання для верифікації у вітальні повідомлення, сподіваючись, що нові користувачі натиснуть на них, перш ніж опанують основи.

Дешевий і простий у використанні ШІ зустрічається з населенням, яке все ще опановує основи безпеки в інтернеті, що створює ідеальні умови для катастрофи.

Хто може постраждати

  • Споживачі – більшість жертв — це люди, які щойно зареєструвалися в цифрових гаманцях, застосунках для покупок або онлайн-банкінгу. Один успішний злам може знищити тижні заощаджень.
  • Платформи – Amazon та інші сайти електронної комерції стикаються з вищим рівнем повернення платежів (charge-backs) та пошкодженням довіри до бренду, якщо шахрайство залишається без контролю.
  • Регулятори – постійне шахрайство може змусити посилити нагляд за контентом, створеним ШІ, що додасть витрат на дотримання нормативних вимог для технологічних компаній.

Що робить Amazon

Команди безпеки Amazon додають додаткові кроки верифікації під час створення облікового запису та позначають медіафайли, створені ШІ, які відповідають відомим моделям шахрайства. Компанія також співпрацює з місцевими неурядовими організаціями для проведення семінарів із цифрової грамотності, орієнтованих на нових користувачів.

Інша точка зору

Деякі аналітики стверджують, що ажіотаж навколо шахрайства з використанням ШІ перебільшує реальний ризик, зазначаючи, що традиційні схеми шахрайства все ще становлять більшу частину збитків. Вони вказують на інструменти виявлення на ранніх стадіях, які вже перехоплюють багато атак, створених ШІ, до того, як вони досягнуть споживачів.

На що варто звернути увагу

  • Регуляторні кроки – нові індійські рекомендації щодо синтетичних медіа можуть змінити те, як платформи перевіряють контент.
  • Технологічні оновлення – прогрес у виявленні дипфейків може повернути перевагу споживачам.
  • Освіта користувачів – ефективність кампаній із підвищення цифрової грамотності буде ключовим показником у стримуванні цієї тенденції.

Якщо шахрайство за допомогою ШІ продовжуватиме випереджати рівень обізнаності, ті самі люди, які мали б отримати вигоду від цифрового буму в Індії, можуть взагалі почати боятися інтернету. Наступні кілька місяців покажуть, чи зможуть посилені заходи безпеки або розумніші користувачі відновити довіру.

Джерело: Times of India