一名 70 岁的澳大利亚男子沦为一场复杂的 AI 驱动型浪漫骗局的受害者，因一个“深度伪造”（deepfake）人格损失了 18 万美元。这一事件凸显了网络犯罪令人恐惧的演变：人工智能正被武器化，用以绕过人类的直觉和情感防御。

高科技浪漫骗局的剖析

受害者是一名澳大利亚老年居民，据他报告，他与一个 AI 生成的人格产生了情感纠葛，而该人格最终显露出了明显的技术缺陷，例如在数字图像中出现了六根手指。尽管存在这些“恐怖谷”效应的预警信号，但这种情感操纵依然成功地诱使他向诈骗者转账了高达 18 万美元（约合 1.5 亿卢比）。

此案例是一个里程碑式的例子，展示了生成式人工智能（Generative AI）如何降低国际网络犯罪集团的准入门槛。与依赖措辞拙劣的电子邮件的传统网络钓鱼骗局不同，这些现代“杀猪盘”骗局利用超逼真的深度伪造音频和视频来建立长期的心理信任。受害者在意识到真相后决定注销所有互联网账户，这凸显了这些先进的社会工程学手段所造成的深刻心理创伤以及数字信任的彻底崩溃。

AI 生成虚假信息的日益增长的威胁

这场特定骗局中的技术错误——出现六根手指——是当前 AI 图像生成模型的常见特征。然而，随着大语言模型（LLMs）和扩散模型的演进，这些视觉瑕疵正在迅速消失。犯罪网络目前正利用 AI 自动创建数以千计的虚假身份，从而能够大规模针对弱势群体。

这种转变代表了从“机会主义黑客行为”向“工业化欺骗”的过渡。犯罪集团不再仅仅是窃取密码，他们正在制造完整的人格，旨在利用人类特定的弱点，如孤独、悲伤或对陪伴的渴望。这些深度伪造技术部署的速度之快，意味着执法机构目前正难以跟上生成式人工智能“黑暗面”的技术飞速发展。

全球脆弱性与数字安全

这一事件为全球敲响了警钟，提醒人们在人际沟通中使用 AI 缺乏强有力的国际监管框架。随着深度伪造变得与现实难以分辨，“眼见为实”的基本概念正在被瓦解。这起澳大利亚案例中的经济损失只是一个前兆，未来可能会对全球家庭财富造成巨大的消耗，尤其是对于那些对现代 AI 能力缺乏数字素养的老年群体而言。

对印度意味着什么

  • 网络安全即国家安全： 随着印度通过 India Stack 和广泛的互联网普及实现大规模数字化转型，AI 驱动的社会工程学骗局风险对金融稳定和个人数字信任构成了重大威胁。
  • 对 AI 监管和素养的需求： 印度政府和 CERT-In 等监管机构必须优先开发“AI 检测”工具，并开展大规模的数字素养运动，以向老年人普及深度伪造人格的存在。
  • 加强跨国合作： 由于这些骗局通常由跨国犯罪集团策划，印度必须加强与全球机构的情报共享和法律合作，以追踪并拦截由 AI 驱动的欺诈所产生的非法资金流。

反方观点：检测与意识可以减轻影响

下一步值得关注的动向

  • 针对金融服务场景中合成媒体问题的监管框架。
  • 科技公司与执法部门之间的协作，以实时共享威胁情报。

这起澳大利亚案例是一个警示信号：随着生成式 AI 变得越来越精致，真实的情感连接与精心设计的欺骗之间的界限正变得模糊。警惕、更好的检测技术以及广泛的数字素养，是抵御未来的唯一保障——在未来，一个简单的视频通话可能就是一个代价高昂的陷阱。