- 金融ソフトウェアプロバイダーのメディウスによる調査によると、米国と英国の企業の半数以上（53%）が「ディープフェイク」技術を利用した金融詐欺の標的となり、43%がそのような攻撃の被害者となっている。
- メディウスが調査した米国と英国の金融専門家1,533人のうち、85%がそのような詐欺を組織の財務セキュリティに対する「実存的」脅威と見なしていると、先月発表された調査結果に関するレポートで示されている。ディープフェイクとは、人工知能によって操作された、偽物でありながら説得力のある画像、動画、または音声録音である。
- 「ディープフェイク詐欺を企業から金を巻き上げる 効果的な方法と見なす犯罪者が増えている」と、メディウスの最高変革・情報責任者アハメド・フェッシ氏はインタビューで語った。これらの詐欺は「フィッシング手法とソーシャルエンジニアリング、そしてAIの力を組み合わせたものだ」。
ビッグフォーの会計事務所デロイトは5月のレポートで、生成AIにより、2027年までに米国での詐欺による損失が400億ドルに達する可能性があると述べた。
「ダークウェブにはすでに、20ドルから数千ドルの詐欺ソフトウェアを販売する小規模な産業が存在している」とレポートは述べている。 「悪質なソフトウェアの民主化により、現在の不正防止ツールの有効性が低下しています。」
5月、英国のエンジニアリンググループであるアラップは、ディープフェイク技術を使用して組織のCFOになりすまし、同社から詐欺師が2,500万ドルを流用したとの報道を受けて注目を集めました。偽のCFOと他のAI生成従業員とのビデオ会議の後、アラップのスタッフメンバーは、詐欺を発見する前に、香港の5つの銀行口座に複数の取引を行いました。
別の例として、ガーディアン紙は5月に広告グループWPPが失敗したディープフェイク詐欺の標的になったと報じた。
CEOやCFOが登場するYouTube動画やポッドキャストなどのオンラインコンテンツは、犯罪者に説得力のあるディープフェイクの素材を提供し、それをなりすまし詐欺に利用して財務チームのメンバーなどをだまし、会社の資金を渡させようとする可能性 があるとフェッシ氏は述べた。詐欺の一環として、詐欺師は偽の緊急感を演出して、何も知らない従業員に迅速に行動するよう圧力をかけようとする可能性がある。
別の種類のディープフェイク詐欺では、攻撃者は会社と取引のあるベンダーやサプライヤーになりすまそうとする可能性があるとフェッシ氏は述べた。
ディープフェイクによる脅威が高まっていることを踏まえ、フェッシ氏は企業に対し、次の 3 つの柱に基づいた防御策を講じるよう促した。
教育。「組織内の全員がディープフェイクとは何か、それをどのように見分けるか、そして標的にされた場合にどのような措置を取るべきかについて基本的な理解を持つ必要がある」とフェッシ氏は述べ、企業は上級管理職やマネージャー、およびリスクの高い部門の従業員に対する専門的なトレーニングでこれを補完することも検討すべきだと付け加えた。
プロセス。フェッシ氏によると、従業員が詐欺師にうっかり支払いをしてしまうリスクを最小限に抑えるために、企業はチェックとバランスを整備する必要がある。たとえば、電信送金には少なくとも 2 人が署名する必要がある。組織はまた、ディープフェイク攻撃が成功した場合の対応方法も準備する必要がある。「これらのプロセスを文書化し、従業員、特に財務スタッフと共有することが重要です」とフェッシ氏は述べた。
テクノロジー。フェッシ氏は、AIや機械学習などのツールを、多層的な検証プロセスや職務の分離と組み合わせることで、企業が異常な取引を見つけるのに役立つと述べた。