企業の41%が「ディープフェイク通話詐欺」の被害に：Gartner、人間の判断を最終防衛線にしてはならない

AIによる攻撃というと、多くの人が想像するのは「マシン対マシン」の戦いだろう——DDoS、脆弱性悪用、RCE。しかしGartnerが昨日（9月22日）公開した、上位セキュリティ担当者297名を対象とした調査は、戦場をまっすぐ人間の五感のほうに押し込める：41%の組織が過去12か月で「ディープフェイク音声通話詐欺」のインシデントを経験し、36%が「ディープフェイク映像通話詐欺」の被害。もはやSFではない——中堅以上の企業にとっては、これが日常になっている。

「声も顔も本人」——五感ですら信用できなくなった

同じ調査では、79%の組織が過去1年以内にフィッシング、スピアフィッシング、BEC（ビジネスEメール乗っ取り）の被害、58%がvishing（音声詐欺）またはsmishing（SMS詐欺）の被害を経験。Gartnerのアナリスト、Craig Porter氏は明快に指摘する：攻撃者はすでにフィッシング、BEC、合成メディア、そして複数チャネルから集約した個人情報を組み合わせて一撃を放つ——「多くの攻撃は引き続きユーザー、窃取された認証情報、脆弱な復旧プロセスに依存し続ける」。

より厳しい現実が「自分で見抜け」防衛線の崩壊だ。Malwarebytesの調査では、成人の約9割が「本物とAI生成物をもう区別できない」と回答；Jumioの調査では69%が「AI駆動の詐欺は従来のID窃盗より個人のリスクが大きい」と回答。最も引用される事例は2024年の事件で、財務担当者が映像会議の中でCFOや複数幹部の「姿」を確認し、15回の送金を実行、合計2,500万ドル超が詐欺側の口座に流入——発覚したのは数日後だった。

Vector Instituteの研究がさらに冷水を浴びせる：ディープフェイク検知を独立した技術力として防衛線に据える限り、すでに劣勢であり、今後も劣勢を続ける——生成モデルはさらに強くなるからである。「本物と偽物を見抜く」ことは、恐らく私たちはずっと負けていく競争なので、そこに防衛線は建てられない。

Gartnerの処方箋3つ：「検証」をデフォルトにする

人間の目ではもう本偽を判別できない以上、GartnerのCISO向け提言は実に実践的だ。

• 検証をデフォルトに——リスクを伴うあらゆる依頼（メール、電話、会議、コラボツール、AIアプリ）で、デフォルトの動作は「先に信頼してから後で追う」ではなく「先に検証」。
• 高価値フローにフィッシング耐性認証を——アカウント復旧、特権アクセス、支払承認は攻撃者が最も好む3つの入口。フィッシング耐性認証、リスクベースのID制御、攻撃者が偽造できない検証チャネルが必要。
• 点と点を結ぶ——怪しい通信やなりすまし報告を、アカウント復旧イベント、新規デバイス、権限変更、金融取引と突合；インシデント対応手册も「マルチモーダルなりすまし、操作されたAIの推奨、意図された境界を超えるAgent」をカバーするよう更新。

3つ目が最も重要で、最も見落とされがちだ：どのシグナル単体を見ても「もっともらしい」。結んで初めて詐欺の形が見える。「上司」が映像会議で支払いを依頼するのは、単体では完全に正常——だが、同じ時間帯に認証情報のリセット、新規デバイスログイン、権限変更が重なれば、それは偶然ではなく攻撃だ。

あなたのサーバーと運用にとっての意味

運用の視点に立てば結論は明快：「人間」は防衛線として公式に「バイパス可能」に降格した。攻撃者がAIで権限を持つ誰か——CFOからDevOps責任者まで——を偽装できる以上、「信頼に基づく人的操作」はすべて潜在の穴になる。

だからこそ私たちは3つをずっと強調してきた：第一に、眠らない自動エッジ防御——WAF、DDoSスクラビング、Botフィルタリングがマシン速度でトラフィック層攻撃を遮断し、誰かがアラートを見るのを待たない；第二に、シグナル間をまたぐ異常検知——API呼び出しパターン、権限変更、ログイン元、支払関連操作は単体ではすべて正常、結んで初めて「この人物は今はいつもの人物ではない」と分かる；第三に、MTTRを分単位に圧縮——被害者が気づくまでの数分間こそ攻撃者の最大の窓。自動的な止血とロールバックこそが本当に出血を止める動作だ。

AIはあなたのサーバーだけでなく、「サーバーを動かす人」にも攻撃してくる。防衛も両側に同時に建てなければならない。