过去几年里，安全行业一直将人工智能视为防御者的力量倍增器。故事的逻辑是这样的：机器学习模型会筛选日志，发现人类分析师忽略的异常，并处理威胁检测中枯燥乏味的工作。但这个故事只说对了一半。根据 Check Point Research 的最新发现，另一半事实是，攻击者已经远远超越了实验阶段。他们现在正利用 AI 进行实战攻击。这项技术不再仅仅是开发者构建下一个应用栈的工具，它已成为犯罪分子手中的主动武器，正以前所未有的规模实现欺骗行为的自动化。
当攻击者利用 AI 进行实战行动时
该报告强调了威胁参与者组织其攻击活动方式的决定性转变。攻击者不再依赖静态代码和手动命令与控制（C2），而是正在构建像 VoidLink 这样复杂的恶意软件框架。这类框架指向一种模块化方法，其组件可以动态地进行适应、更新和通信。当 AI 驱动这些系统时，恶意软件攻击变得更加难以预测。有效载荷（Payloads）可以根据其感染的环境改变行为，这使得基于特征的检测变得更加困难，并对行为监控提出了更高要求，而很少有组织能够完全部署此类监控。
更令人担忧的是对商业 AI 模型的直接利用。攻击者并不局限于在隐秘论坛中构建的地下工具。他们正在滥用合法企业每天都在使用的相同大语言模型和 AI 服务。通过越狱系统、优化提示词工程，或者仅仅是通过自动化大规模的 API 调用，犯罪分子可以绕过安全设置，并以机器的速度生成网络钓鱼邮件、恶意脚本和社会工程学诱饵。这充满了讽刺意味：旨在帮助人们编写代码或总结文档的基础设施，现在正被劫持，用来入侵那些为其付费的组织。
需要了解的四种 AI 驱动威胁
Check Point 的分析指出了安全团队需要详细了解的四种具体滥用案例。每一种都改变了攻击者在无需人力扩展限制的情况下所能实现的攻击规模。
自动化网络钓鱼攻击几十年来一直以原始形式存在，但 AI 消除了剩余的摩擦。攻击者可以在几秒钟内抓取社交媒体和公司网站，生成高度个性化的电子邮件，调整语气、语言和语境，使大规模攻击看起来像是点对点的消息。当每一封鱼叉式网络钓鱼邮件看起来都像是手工制作时，传统的基于拙劣语法或群发邮件头部的检测手段就会失效。
语音代理语音钓鱼（Vishing）工具包代表了一种超越录制深度伪造（Deepfakes）的升级。这些工具包部署了能够与受害者进行实时对话的交互式语音代理。想象一下，一个电话听起来完全像是你的 IT 服务台，能自然地回答你的问题，并紧迫地索要你的多因素身份验证码。声音是合成的，脚本是即时生成的，而受害者正在与一个永远不会紧张、永远不会语塞、也永远不会偏离目标的软件交谈。
伪造的虚拟身份将这种欺骗手段从单一电话扩展到了完整的身份形象。威胁参与者可以创建包含生成的照片、编造的职业经历和虚假社交关系的合成档案。这些身份不仅仅是发送一条消息；他们可能会加入专业网络，参与行业讨论，并在数周或数月内建立信任，最后才投放恶意载荷或索要敏感凭据。“长线骗局”已经实现了工业化。
间接提示词注入攻击针对的是 AI 应用本身的架构，而非直接针对最终用户。攻击者将恶意指令隐藏在网页、文档或电子邮件中，随后 AI 代理会处理这些内容。当企业助手工具读取这些被“投毒”的数据时，它会执行攻击者植入的指令，从而可能泄露机密信息或代表用户执行未经授权的操作。应用程序看起来像是发生了故障，但它其实只是在执行它本不该看到的指令。
内部战线：未经授权的 AI 与数据泄露
这些外部威胁正因一场发生在办公室内、更为隐蔽的危机而变得更加严峻。企业现在正面临着未经授权使用 AI 所带来的严重风险，这通常被称为“影子 AI”（shadow AI），即员工为了提高日常工作效率，会将专有代码、客户记录或战略计划粘贴到公共聊天机器人中。其结果是