Amazon’s internal data shows AI-driven scams are spiking among India’s newest internet users, with fraud incidents climbing sharply as more people go online. The surge threatens consumers just learning to navigate digital services and could dent confidence in e-commerce platforms.

Mengapa gelombang ini penting sekarang

India menambah jutaan pengguna internet pertama kali tahun lalu, berkat ponsel pintar murah dan perluasan broadband. Para pengguna tersebut kurang memiliki kefasihan digital yang membantu mendeteksi phishing atau pesan palsu (spoofed), menjadikan mereka target utama bagi penipu yang kini menggunakan alat AI generatif. Ketika penipuan berhasil, korban kehilangan uang, data pribadi, atau keduanya, dan dampaknya merambat ke platform yang memfasilitasi transaksi tersebut.

Bagaimana AI disalahgunakan sebagai senjata

  • Konten sintetis – Model pembuatan teks memungkinkan penipu memproduksi email, pesan obrolan, atau iklan yang meyakinkan dalam skala besar.
  • Deepfakes – AI menggabungkan wajah dan suara ke dalam klip video atau audio, memungkinkan penipu menyamar sebagai agen bank atau anggota keluarga.
  • Umpan onboarding – Penipu menyisipkan tautan verifikasi palsu dalam pesan sambutan, berharap pengguna baru akan mengekliknya sebelum mereka memahami cara kerja layanan tersebut.

AI yang murah dan mudah digunakan bertemu dengan populasi yang masih mempelajari keamanan online dasar, menciptakan situasi yang sangat berbahaya.

Siapa yang akan merugi

  • Konsumen – Sebagian besar korban adalah orang-orang yang baru saja mendaftar dompet digital, aplikasi belanja, atau perbankan online. Satu penipuan yang berhasil dapat menghabiskan tabungan selama berminggu-minggu.
  • Platform – Amazon dan situs e-commerce lainnya menghadapi tingkat pengembalian dana (charge-back) yang lebih tinggi dan kerusakan kepercayaan merek jika penipuan tidak terkendali.
  • Regulator – Penipuan yang terus-menerus dapat memaksa pengawasan yang lebih ketat terhadap konten buatan AI, yang menambah biaya kepatuhan bagi perusahaan teknologi.

Apa yang dilakukan Amazon

Tim keamanan Amazon menambahkan langkah verifikasi ekstra selama pembuatan akun dan menandai media buatan AI yang sesuai dengan pola penipuan yang diketahui. Perusahaan ini juga bermitra dengan LSM lokal untuk menjalankan lokakarya literasi digital yang ditujukan bagi pengguna baru.

Sudut pandang lain

Beberapa analis berpendapat bahwa kehebohan seputar penipuan AI melebih-lebihkan risiko yang sebenarnya, dengan mencatat bahwa penipuan tradisional masih menyumbang sebagian besar kerugian. Mereka menunjuk pada alat deteksi tahap awal yang sudah mampu menangkap banyak serangan buatan AI sebelum mencapai konsumen.

Hal yang perlu diperhatikan

  • Langkah regulasi – Pedoman baru India mengenai media sintetis dapat mengubah cara platform memverifikasi konten.
  • Peningkatan teknologi – Kemajuan dalam deteksi deepfake dapat mengembalikan keseimbangan ke sisi konsumen.
  • Edukasi pengguna – Efektivitas kampanye literasi digital akan menjadi metrik utama dalam menekan tren ini.

Jika penipuan bertenaga AI terus melampaui kesadaran masyarakat, orang-orang yang seharusnya mendapat manfaat dari ledakan digital India justru mungkin akan menjadi waspada terhadap internet secara keseluruhan. Beberapa bulan ke depan akan menunjukkan apakah perlindungan yang lebih ketat atau pengguna yang lebih cerdas dapat memulihkan kepercayaan.

Sumber: Times of India