41% 企业已遭“Deepfake 通话”诈骗：Gartner 说，人的判断不能再是最后防线

过去大家讨论 AI 攻击，脑中浮现的多半是“程式打程式”：DDoS、漏洞利用、RCE。但 Gartner 昨天（9/22）发布的一份针对 297 位资安高阶主管的调查，把战场直接推进到人的五官：41% 的企业，过去 12 个月已经遇到过“Deepfake 语音通话”诈欺事件；36% 遇过“Deepfake 视频通话”诈欺。这不再是科幻片情节，而是已经发生在多数中型以上企业的常态。

“听起来就是他、看起来就是他”——五官不再可信

同一份调查里，79% 的企业过去一年遇过钓鱼、精确钓鱼（spear-phishing）或 BEC（商业Email诈欺），58% 遇过 vishing（电话诈欺）或 smishing（简讯诈欺）。Gartner 分析师 Craig Porter 的说法很直接：攻击者已经会把钓鱼、BEC、合成媒体、以及跨管道的个人资讯串在一起打一套组合拳——“大多数攻击仍会依赖用户、被窃取的凭证、薄弱的恢复流程”。

更残酷的是“辨识”这道防线正在崩塌。Malwarebytes 的调查显示，近九成成年人表示自己已经无法分辨内容是真实还是 AI 生成的；Jumio 的调查则有 69% 的受调查者认为，AI 驱动的诈欺对个人资安的威胁，已经超过传统身分窃盗。被引用最多的案例是 2024 年那桩：某跨国企业分支机构的财务人员，在视频会议中“看到”CFO 与多位主管，完成 15 笔汇款、合计超过 2,500 万美元直接流入诈骗者帐户——发现时已经好几天了。

Vector Institute 的研究更浇了盆冷水：把“深伪侦测”当成独立技术能力来防守，正在落后、而且会持续落后，因为生成模型还在变强。防线不能建在“辨别真伪”上——那场比赛我们大概率会一直输。

Gartner 的三张处方：把“验证”变成预设动作

既然人眼辨不出真伪，Gartner 给 CISO 的建议就很务实：

• 验证成为预设——任何带风险的请求（Email、电话、会议、协作工具、AI 应用），预设动作是“先验证”，而不是“先相信、出事再追”。
• 高价值流程上防钓鱼式认证——帐号恢复、特权存取、付款授权是攻击者最爱啃的三块，需要 phishing-resistant authentication、风险式身分控制，以及攻击者无法伪造的验证通道。
• 把分散的讯号接起来——可疑通讯与仿冒回报，要和帐号恢复事件、新装置、权限变更、金融交易交叉比对；同时更新事件回应手册，涵盖“多模态仿冒、被操纵的 AI 建议、越界的 AI Agent”。

第三点其实最重要，也最容易被忽略：单看任一条讯号都“合理”，串起来才露馅。一个“主管”在视频会议里要求付款，单独看完全正常；但如果同一时间出现帐号密码重置、新装置登入、权限变更——这就是攻击，不是巧合。

对你的伺服器与运维意味著什么

把这件事放到运维视角，结论很清晰：“人”这道防线今年正式降级为“可被绕过”。当攻击者能用 AI 伪装任何一位有权限的人——从 CFO 到 DevOps 主管——所有“基于信任的人为操作”都变成潜在缺口。

这正是为什么我们一直强调三件事：第一，边界上的自动化防御不能停——WAF、DDoS 清洗、Bot 过滤在机器速度上挡下流量层攻击，不依赖任何人看到告警；第二，异常侦测要跨讯号——你的 API 呼叫模式、权限变更、登入来源、金流相关操作，单一维度看都正常，串起来才看得出“这个人此刻的行为不像他”；第三，MTTR 压到分钟级——人被骗的那几分钟是攻击者最大的窗口，自动化的止血与回滚才是真正止损的动作。

AI 不会只攻击你的伺服器，它会攻击“用伺服器的人”。防御也必须同时建在两边。