亚马逊的内部数据显示，随着更多人上网，印度最新涌入的互联网用户正面临 AI 驱动的诈骗激增，欺诈事件也随之大幅上升。这一浪潮威胁着那些刚刚开始学习使用数字服务的消费者，并可能削弱人们对电子商务平台的信心。

为什么这一浪潮在当下至关重要

得益于廉价智能手机和宽带的普及，印度去年新增了数百万首次上网的用户。这些用户缺乏识别网络钓鱼或伪造信息的数字素养，从而成为了利用生成式 AI 工具的诈骗者的首要目标。一旦诈骗成功，受害者会损失金钱、个人数据或两者兼有，其影响还会波及承载这些交易的平台。

AI 是如何被武器化的

  • 合成内容 —— 文本生成模型让诈骗者能够大规模制作极具说服力的电子邮件、聊天消息或广告。
  • 深度伪造 (Deepfakes) —— AI 将面部和声音拼接在视频或音频剪辑中，使诈骗者能够冒充银行代理或家属。
  • 新手引导诱饵 —— 诈骗者在欢迎消息中嵌入虚假的验证链接，希望新用户在掌握上网技巧之前点击。

廉价且易于使用的 AI 遇上了仍在学习基础网络安全知识的人群，形成了一场“完美风暴”。

谁将面临损失

  • 消费者 —— 大多数受害者是刚刚注册数字钱包、购物应用或网上银行的人。一次成功的诈骗就可能挥霍掉数周的积蓄。
  • 平台 —— 如果欺诈行为得不到遏制，亚马逊和其他电子商务网站将面临更高的退单率和品牌信任受损。
  • 监管机构 —— 持续不断的欺诈可能会迫使监管机构加强对 AI 生成内容的审查，从而增加科技公司的合规成本。

亚马逊正在采取哪些措施

亚马逊的安全团队正在账号创建过程中增加额外的验证步骤，并标记符合已知欺诈模式的 AI 生成媒体。该公司还在与当地非政府组织 (NGO) 合作，为初次上网的用户举办数字素养研讨会。

不同观点

一些分析师认为，围绕 AI 诈骗的炒作夸大了实际风险，并指出传统诈骗仍占损失的大部分。他们指出，早期的检测工具已经能在许多 AI 制造的攻击触达消费者之前将其拦截。

值得关注的动向

  • 监管动向 —— 印度关于合成媒体的新指南可能会重塑平台验证内容的方式。
  • 技术升级 —— 深度伪造检测技术的进步可能会使天平重新向消费者倾斜。
  • 用户教育 —— 数字素养推广活动的有效性将是遏制这一趋势的关键指标。

如果 AI 驱动的诈骗速度持续超过人们的防范意识，那么本应从印度数字繁荣中受益的人群可能会对互联网产生畏惧心理。接下来的几个月将揭示，是更严密的防护措施还是更聪明的用户能够恢复信心。

来源：Times of India