41% 企業已遭「Deepfake 通話」詐騙：Gartner 說，人的判斷不能再是最後防線

過去大家討論 AI 攻擊，腦中浮現的多半是「程式打程式」：DDoS、漏洞利用、RCE。但 Gartner 昨天（9/22）發布的一份針對 297 位資安高階主管的調查，把戰場直接推進到人的五官：41% 的企業，過去 12 個月已經遇到過「Deepfake 語音通話」詐欺事件；36% 遇過「Deepfake 影片通話」詐欺。這不再是科幻片情節，而是已經發生在多数中型以上企業的常態。

「聽起來就是他、看起來就是他」——五官不再可信

同一份調查裡，79% 的企業過去一年遇過釣魚、精確釣魚（spear-phishing）或 BEC（商業Email詐欺），58% 遇過 vishing（電話詐欺）或 smishing（簡訊詐欺）。Gartner 分析師 Craig Porter 的說法很直接：攻擊者已經會把釣魚、BEC、合成媒體、以及跨管道的個人資訊串在一起打一套組合拳——「大多數攻擊仍會依賴用戶、被竊取的憑證、薄弱的恢復流程」。

更殘酷的是「辨識」這道防線正在崩塌。Malwarebytes 的調查顯示，近九成成年人表示自己已經無法分辨內容是真實還是 AI 生成的；Jumio 的調查則有 69% 的受調查者認為，AI 驅動的詐欺對個人資安的威脅，已經超過傳統身分竊盜。被引用最多的案例是 2024 年那樁：某跨國企業分支機構的財務人員，在影片會議中「看到」CFO 與多位主管，完成 15 筆匯款、合計超過 2,500 萬美元直接流入詐騙者帳戶——發現時已經好幾天了。

Vector Institute 的研究更澆了盆冷水：把「深偽偵測」當成獨立技術能力來防守，正在落後、而且會持續落後，因為生成模型還在變強。防線不能建在「辨別真偽」上——那場比賽我們大概率會一直輸。

Gartner 的三張處方：把「驗證」變成預設動作

既然人眼辨不出真偽，Gartner 給 CISO 的建議就很務實：

• 驗證成為預設——任何帶風險的請求（Email、電話、會議、協作工具、AI 應用），預設動作是「先驗證」，而不是「先相信、出事再追」。
• 高價值流程上防釣魚式認證——帳號恢復、特權存取、付款授權是攻擊者最愛啃的三塊，需要 phishing-resistant authentication、風險式身分控制，以及攻擊者無法偽造的驗證通道。
• 把分散的訊號接起來——可疑通訊與仿冒回報，要和帳號恢復事件、新裝置、權限變更、金融交易交叉比對；同時更新事件回應手册，涵蓋「多模態仿冒、被操縱的 AI 建議、越界的 AI Agent」。

第三點其實最重要，也最容易被忽略：單看任一條訊號都「合理」，串起來才露餡。一個「主管」在视频会议裡要求付款，單獨看完全正常；但如果同一時間出現帳號密碼重置、新裝置登入、權限變更——這就是攻擊，不是巧合。

對你的伺服器與運維意味著什麼

把這件事放到運維視角，結論很清晰：「人」這道防線今年正式降級為「可被繞過」。當攻擊者能用 AI 偽裝任何一位有權限的人——從 CFO 到 DevOps 主管——所有「基於信任的人為操作」都變成潛在缺口。

這正是為什麼我們一直強調三件事：第一，邊界上的自動化防禦不能停——WAF、DDoS 清洗、Bot 過濾在機器速度上擋下流量層攻擊，不依賴任何人看到告警；第二，異常偵測要跨訊號——你的 API 呼叫模式、權限變更、登入來源、金流相關操作，單一維度看都正常，串起來才看得出「這個人此刻的行為不像他」；第三，MTTR 壓到分鐘級——人被騙的那幾分鐘是攻擊者最大的窗口，自動化的止血與回滾才是真正止損的動作。

AI 不會只攻擊你的伺服器，它會攻擊「用伺服器的人」。防禦也必須同時建在兩邊。