レポート 5540

香港の財務担当者は、このビデオ通話に特に異常は感じなかった。英国に拠点を置く最高財務責任者（CFO）が極秘の買収案件の緊急承認を必要としており、詳細を話し合うために馴染みの同僚数名が参加したのだ。

綿密な議論の末、この担当者は15件の送金を承認し、合計2,550万ドルを受け取った。数週間後、衝撃的な真実が明らかになった。被害者を除く通話参加者全員が、AIが生成したディープフェイクだったのだ。

この2024年1月のエンジニアリング会社Arupへの攻撃は、単なる高度な詐欺行為にとどまらない。現代ビジネスの基盤となる信頼基盤をAIが脅かすという、根本的な変化を示唆している。

組織がAIの変革の可能性を積極的に活用しようと躍起になる一方で、AIの武器化を防ぐことも同時に求められている。危険なAIを検知する能力はもはやオプションではなく、存在意義を問われるものなのだ。

政治的偽情報を超えた進化

長年にわたり、ディープフェイクは選挙操作や著名人のスキャンダルの手段として、ニュースの見出しを賑わせてきました。しかし、その時代は終わりました。Arup社の事件は、ディープフェイク攻撃が、幹部のなりすましを通じて企業の業務を標的とする精密兵器へと進化したことを示しています。これは、多くの組織が依然として危険なほど備えができていない脅威です。

この進化の規模は驚異的です。 北米でのディープフェイク詐欺事件は2022年から2023年の間に1,740%急増し、経済的損失は 2025年第1四半期だけで2億ドルを超えました。ディープフェイク技術の普及により、詐欺行為は民主化されました。音声の複製にはわずか20～30秒の音声データが必要で、無料で入手できるソフトウェアを使えば45分で説得力のあるディープフェイク動画を作成できます。

Arup以外にも、記録されている攻撃手法はますます巧妙化しています。詐欺師たちはAIクローン音声通話で南イタリア訛りを完璧に再現、フェラーリCEOのベネデット・ヴィーニャ氏になりすまそうとした。この通話は、幹部がヴィーニャ氏だけが答えを知っている質問をした後に終了した。

同様の攻撃は WPP CEO マーク・リード をはじめ、様々な業界の多くの経営幹部を標的にしています。 金融サービス情報共有・分析センター は、これらの攻撃は「民主的なプロセスの妨害から、事業運営への直接的な攻撃への根本的な転換」を示していると警告しています。

この進化は、脅威環境におけるより広範な変化を反映しています。大量配布を目的とした政治的ディープフェイクとは異なり、企業向けディープフェイクは、パーソナライズされ、文脈が完璧で、壊滅的な効果を持つ、まさに精密な攻撃です。ビジネスのスピードを支える信頼ネットワークを悪用し、デジタルコミュニケーションへの依存を重大な脆弱性へと変えてしまいます。

危険なAIの検出における課題

現在のセキュリティ対策は、この脅威に対して壊滅的な効果を発揮していません。研究によると、 最先端の自動検出システムでは、実験室の条件と比較して、現実世界のディープフェイクに対する精度が 45～50% 低下する ことが示されています。さらに憂慮すべきなのは、 ディープフェイクを見分ける人間の能力はわずか55～60% にとどまり、偶然の産物とほとんど変わらないことです。

「音声と視覚の手がかりは人間にとって非常に重要であり、これらのテクノロジーはそれを利用しているのです」と、2,500万ドルの詐欺事件を振り返り、 [Arupの最高情報責任者であるロブ・グレイグ](https://www.weforum.org/stories/2025/02/deepfake-ai-cybercrime-arup/]は説明しています。 「私たちは、自分が見ているものについて、真に疑問を持ち始めなければなりません。」

根本的な課題は、生成技術と検出技術の間の非対称的な軍拡競争にあります。ディープフェイク動画は 年間900%増加している一方で、検出能力は常に遅れをとっています。従来の認証方法、つまり動画上の見慣れた顔を認識したり、信頼できる声を聞いたり、行動パターンを観察したりすることは、もはや信頼できるセキュリティを提供できません。

しかし、この課題は新たな技術的ソリューションによって解決可能です。 音声、動画、行動パターンを同時に分析するリアルタイム・マルチモーダル検出システムは、最適な条件下で94～96%の精度を達成しています。

これらのシステムは、複数の検出アルゴリズムを組み合わせたアンサンブル手法を活用することで、敵対的な攻撃に対する耐性を高めています。企業はこれらの機能をコミュニケーションプラットフォームに直接統合し、リアルタイムのインタラクション中にリアルタイムでアラートを通知できるようにしています。

検出ギャップを埋める鍵は、継続的な適応にあります。静的なセキュリティ対策とは異なり、現代のディープフェイク検出には、新たな脅威に合わせて継続的に再トレーニングされるモデルが必要です。

主要なソリューションは、プライバシーを保護しながら検出機能を毎日更新するフェデレーテッドラーニング（Federated Learning）アプローチを採用しています。この動的な防御態勢と、検証済み通信のための暗号認証方式を組み合わせることで、検出技術の進化を加速させる道が開かれます。

ディープフェイクに対するシステム的なレジリエンスの構築

完璧な検出は依然として困難であることを認識している主要組織は、テクノロジー、ポリシー、そして人的要因を組み合わせた統合アプローチを通じて、多層的なレジリエンスを構築しています。このシステム的な防御戦略は、ディープフェイクを阻止するには技術的なソリューションだけでは不十分であり、信頼の検証方法に根本的な変化が必要であることを認識しています。

金融機関は、包括的なフレームワークの先駆者となっています。  FS-ISACのディープフェイクリスク分類 は、人、プロセス、テクノロジー全体にわたる体系的な防御構築を可能にします。重要な要素として、従来の方法を超えて 行動バイオメトリクス を組み込んだ多要素認証が挙げられ、入力パターンやナビゲーション習慣をリアルタイムで分析します。 100以上の金融機関がこれらのシステムを導入し、銀行間における行動ベースの不正検知ネットワークを構築しています。

合成メディアによって侵害されない検証プロトコルが標準的な慣行になりつつあります。これには、事前に確立された二次通信チャネル、暗号デバイス認証、高額取引における強制的な時間遅延などが含まれます。 米国金融犯罪取締ネットワーク は、ディープフェイク事件における強化された検証手順と疑わしい活動の報告を義務付ける正式なガイダンスを発行しています。

トレーニングは、もう一つの重要な柱です。アメリカ銀行協会（ABA）は、定期的にワークショップを開催し、従業員に対し、不正操作の手口を認識し、独立したチャネルを通じて経営陣の指示を検証する方法を指導しています。これらのプログラムから生まれたベストプラクティスとしては、機密性の高い通信のための「セーフワード」の設定、事前検証済みの番号を使用したコールバック手順の実装、高リスクシナリオのための意思決定ツリーの作成などが挙げられます。

この脅威に対処するための政策枠組みは急速に進化しています。 2024年8月に発効した 欧州連合のAI法は、AI生成コンテンツの透明性義務と技術的マーキングを義務付けています。  米国には包括的な連邦法が存在しない一方で、より広範なAIガバナンスの枠組みにおけるディープフェイクに特化した規定を含む複数の法案が議会で審議されている。

ディープフェイク対策には堅牢な検証プロトコルが必要

世界経済フォーラムの グローバルサイバーセキュリティ展望2025が強調しているように、ディープフェイクの脅威は、AIを活用した世界において私たちが信頼を維持できるかどうかの重大な試金石となります。デロイトは、2027年までにAIを活用した不正行為の規模が400億ドルに達すると予測しており、そのリスクは金銭的損失にとどまらず、ビジネスの信頼という基盤にまで及んでいます。

解決策には、迅速かつ協調的な行動が必要です。組織は、堅牢な検証プロトコルを導入し、継続的な検知機能に投資し、「信頼はするが検証もする」というセキュリティ文化から「決して信頼せず、常に検証する」というセキュリティ文化へと変革する必要があります。テクノロジー提供者は、回復力と適応性に優れた検知システムの開発を優先しなければなりません。政策立案者は、イノベーションと保護のバランスをとる枠組みを構築する必要があります。

最も重要なのは、危険なAIの検知は単なる技術的な課題ではなく、人類の進歩を可能にする信頼を維持するために不可欠であることを認識することです。AIファーストの世界では、本物の人間のコミュニケーションと人工的な操作を区別する能力が、人工知能が人間の可能性を高めるのか、それとも社会の基盤そのものを揺るがすのかを決定づけるでしょう。