世界中で、上司がビデオ通話中にチームメンバーにタスクを依頼するケースが数多くあります。しかし、タスクを割り当てた人物は本当に本人なのでしょうか？それともディープフェイクなのでしょうか？従業員は、指示に盲目的に従うのではなく、詐欺の被害者になっていないか自問自答する必要があります。
今年初め、ある財務担当者は、CFOにそっくりな人物とビデオ会議で話していることに気づきました。会議終了後、彼は上司の指示に従い、2億香港ドル（2,500万米ドル相当）を送金しました。
しかし、それは実際には上司ではなく、ディープフェイクと呼ばれるAIによる動画でした。その日遅く、従業員は多国籍企業の本社に確認した後、自分の大きなミスに気づきました 。彼らは、組織から2,500万米ドルを詐取したディープフェイク詐欺の被害者だったのです。
企業はしばしばディープフェイクの標的となります
ディープフェイクとは、AIによって作成されたコンテンツ（動画、画像、音声、テキストなど）で、虚偽または改ざんされた情報を含むものを指します。例えば、テイラー・スウィフトによる調理器具のプロモーションや悪名高い偽トム・クルーズなどが挙げられます。最近アメリカを襲ったハリケーンによっても、偽のディズニーワールドの洪水写真や洪水の中でペットを連れた人々をAIが生成した悲痛な写真など、複数のディープフェイク画像が拡散しました。
ディープフェイクは合成メディアとも呼ばれ、個人を標的とすることが多いですが、企業を標的とするサイバー犯罪者は金銭的利益を狙っています。 CISAの組織に対するディープフェイク脅威の文脈化情報シートによると、企業を標的とした脅威は、ブランド操作を目的とした幹部のなりすまし、金銭的利益を目的としたなりすまし、アクセス権限を取得するためのなりすましの3つのカテゴリーに分類される傾向があります。
しかし、 香港で最近発生した事件は、単なる1人の従業員のミスではありませんでした。ディープフェイク詐欺は、企業にとってますます一般的になりつつあります。最近のMedus調査によると、金融専門家の大多数（53%）がディープフェイク詐欺の標的になった経験があります。さらに懸念されるのは、43%以上が最終的に攻撃の被害に遭ったことを認めているという事実です。
ディープフェイク攻撃は報告不足なのでしょうか？
Medusの調査でキーワードとなっているのは「認めている」です。そして、これは大きな疑問を提起します。ディープフェイク攻撃の被害を報告しないのは、恥ずかしいからでしょうか？答えはおそらく「おそらく」です。事後になってみれば、他人から見れば偽物だと明らかになります。AIが生成した画像に騙されたことを認めるのは容易なことではありません。しかし、報告不足は恥辱感を増幅させ、サイバー犯罪者が逃げおおせるようにしてしまうのです。
多くの人はディープフェイクを見分けられると考えていますが、実際はそうではありません。 人間と機械とCREEDのためのセンターは、ディープフェイクを見分けることに対する人々の自信と実際の能力の間に大きなギャップがあることを発見しました。多くの人がディープフェイクを見分ける能力を過大評価しているため、被害に遭った場合の恥ずかしさが増し、報告不足につながる可能性が高くなります。
なぜ人々はディープフェイク詐欺に騙されるのか
CFOのデ ィープフェイクに騙されて2,500万ドルを騙し取られた従業員は、後に、CFOからとされるメールを最初に受け取ったとき、秘密取引に関する言及があり、実際にはフィッシングメールではないかと疑ったと認めました。しかし、彼が動画にアクセスしてみると、部署の他のメンバーが動画に映っていることが分かり、本物だと判断しました。しかし、後に彼は、部署のメンバーの動画もディープフェイクだったことを知りました。
被害者の多くは、懸念や疑問、疑念を見過ごしてしまいます。しかし、ディープフェイクについて十分な知識を持つ人でさえ、なぜ懸念を脇に置き、画像が本物だと信じてしまうのでしょうか？これは、将来、費用がかさみ、損害をもたらすディープフェイク詐欺を防ぐために、私たちが解明しなければならない100万ドル、あるいは2500万ドルにも及ぶ問題です。
Sage Journals は、誰がディープフェイクに騙されやすいかという質問を行いましたが、年齢や性別によるパターンは見つかりませんでした。しかし、高齢者はディープフェイクに騙されやすく、見抜くのが難しい可能性があります。さらに研究者たちは、ディープフェイクを見抜くことは良い出発点ではあるものの、ディープフェイクに騙されるのを防ぐ効果は限られていることを発見した。
しかし、西シドニー大学の計算神経科学者ティル・グローツワガーズ氏は、ディープフェイクを見抜くことの難しさについて、まさに的を射た見解を示していると言えるだろう。それは私たち一人ひとりにとって全く新しいスキルなのだ。私たちはニュース記事や偏見に対して懐疑的になることを学んできたが、目に見える画像の信憑性を疑うことは、私たちの思考プロセスに反する。グローツワガーズ氏はサイエンス誌に語った 「私たちは人生において、誰が本物で誰が偽物かを考える必要はありません。それは私たちが訓練されてきた課題ではないのです。」
興味深いことに、グローツワガーズ氏は、私たちの脳は介入がない方がより優れた検出能力を持つことを発見した。彼は、ディープフェイクの画像を見ると、本物の画像や動画とは異なる電気信号を脳の視覚野に送ることを発見しました。その理由を尋ねられたとき、彼ははっきりとした確信が持てませんでした。もしかしたら、他の脳領域からの干渉によって信号が意識に届かなかったのかもしれませんし、人間は新しいタスクなので、画像がフェイクであるという信号を認識できないのかもしれません。
これは、私たち一人ひとりが、見る画像や動画はディープフェイクである可能性があると脳に認識させる訓練を始めなければならないことを意味します。コンテンツに基づいて行動するたびにこの問いを問いかけることで、私たち自身がフェイクを見抜く脳の信号を、私たち自身よりも早く検知できるようになるかもしれません。そして最も重要なのは、もしディープフェイクの被害に遭った場合、特に職場で被害に遭った場合、私たち一人ひとりがすべての事例を報告することが不可欠だということです。そうして初めて、専門家や当局はディープフェイクの作成と拡散を抑制し始めることができるのです。