Dữ liệu nội bộ của Amazon cho thấy các vụ lừa đảo do AI thúc đẩy đang tăng vọt trong số những người dùng internet mới nhất của Ấn Độ, với các vụ gian lận tăng mạnh khi ngày càng có nhiều người lên mạng. Sự gia tăng này đe dọa những người tiêu dùng vừa mới bắt đầu làm quen với các dịch vụ kỹ thuật số và có thể làm giảm niềm tin vào các nền tảng thương mại điện tử.

Tại sao làn sóng này lại quan trọng vào lúc này

Ấn Độ đã có thêm hàng triệu người dùng internet lần đầu vào năm ngoái, nhờ vào điện thoại thông minh giá rẻ và sự mở rộng của băng thông rộng. Những người dùng này thiếu sự am hiểu về kỹ thuật số để giúp nhận diện các tin nhắn lừa đảo (phishing) hoặc giả mạo, khiến họ trở thành mục tiêu hàng đầu của những kẻ lừa đảo hiện đang sử dụng các công cụ AI tạo sinh. Khi một vụ lừa đảo thành công, nạn nhân sẽ mất tiền, dữ liệu cá nhân, hoặc cả hai, và hệ lụy sẽ lan rộng đến các nền tảng lưu trữ các giao dịch đó.

AI đang bị vũ khí hóa như thế nào

  • Nội dung tổng hợp – Các mô hình tạo văn bản cho phép những kẻ lừa đảo tạo ra hàng loạt email, tin nhắn trò chuyện hoặc quảng cáo đầy thuyết phục ở quy mô lớn.
  • Deepfakes – AI ghép khuôn mặt và giọng nói vào các đoạn video hoặc âm thanh, cho phép những kẻ lừa đảo giả danh nhân viên ngân hàng hoặc người thân trong gia đình.
  • Bẫy đăng ký – Những kẻ lừa đảo chèn các liên kết xác minh giả vào tin nhắn chào mừng, hy vọng người dùng mới sẽ nhấp vào trước khi họ kịp làm quen với các quy tắc cơ bản.

AI giá rẻ, dễ sử dụng kết hợp với một bộ phận dân cư vẫn đang trong quá trình học các kỹ năng an toàn trực tuyến cơ bản, tạo nên một "cơn bão hoàn hảo".

Những ai sẽ chịu thiệt hại

  • Người tiêu dùng – Hầu hết các nạn nhân là những người vừa mới đăng ký ví điện tử, ứng dụng mua sắm hoặc ngân hàng trực tuyến. Một vụ lừa đảo thành công duy nhất có thể quét sạch số tiền tiết kiệm trong nhiều tuần.
  • Các nền tảng – Amazon và các trang thương mại điện tử khác phải đối mặt với tỷ lệ hoàn tiền (charge-back) cao hơn và tổn hại đến niềm tin thương hiệu nếu gian lận không được kiểm soát.
  • Các cơ quan quản lý – Tình trạng gian lận dai dẳng có thể buộc các cơ quan phải thắt chặt giám sát đối với nội dung do AI tạo ra, làm tăng chi phí tuân thủ cho các công ty công nghệ.

Amazon đang làm gì

Các đội ngũ an ninh của Amazon đang bổ sung thêm các bước xác minh bổ sung trong quá trình tạo tài khoản và gắn cờ các phương tiện truyền thông do AI tạo ra khớp với các mô hình gian lận đã biết. Công ty cũng đang hợp tác với các tổ chức phi chính phủ (NGO) tại địa phương để tổ chức các buổi hội thảo về kiến thức kỹ thuật số dành cho những người dùng lần đầu.

Quan điểm ngược lại

Một số nhà phân tích cho rằng sự cường điệu xung quanh lừa đảo bằng AI đang phóng đại rủi ro thực tế, lưu ý rằng các hình thức lừa đảo truyền thống vẫn chiếm phần lớn các tổn thất. Họ chỉ ra các công cụ phát hiện ở giai đoạn đầu vốn đã bắt được nhiều cuộc tấn công do AI tạo ra trước khi chúng tiếp cận người tiêu dùng.

Những điều cần theo dõi

  • Các động thái quản lý – Các hướng dẫn mới của Ấn Độ về phương tiện truyền thông tổng hợp có thể định hình lại cách các nền tảng xác minh nội dung.
  • Nâng cấp công nghệ – Những tiến bộ trong việc phát hiện deepfake có thể giúp lấy lại thế cân bằng cho người tiêu dùng.
  • Giáo dục người dùng – Hiệu quả của các chiến dịch nâng cao kiến thức kỹ thuật số sẽ là một thước đo quan trọng trong việc kiềm chế xu hướng này.

Nếu các vụ lừa đảo bằng AI tiếp tục vượt xa mức độ nhận thức, chính những người đáng lẽ được hưởng lợi từ sự bùng nổ kỹ thuật số của Ấn Độ có thể sẽ trở nên e dè với internet. Những tháng tới sẽ cho thấy liệu các biện pháp bảo vệ chặt chẽ hơn hay những người dùng thông minh hơn có thể khôi phục lại niềm tin hay không.

Nguồn: Times of India