オーストラリアの鉱山王で実業家のアンドリュー・「ツイギー」・フォレスト氏のFacebookへの改ざん動画は、虚偽の広告で人物の画像を乗っ取る一連のディープフェイク動画の新たな一例であり、メディアへの信頼を損なっている。
サイバーセキュリティ企業サイバートレースは、偽の仮想通貨取引プラットフォームを宣伝していると思われるフォレスト氏の動画にフラグを立てた。
ディープフェイクによる欺瞞
この動画はFacebookに投稿され、「一般人」に毎日数千ドルの利益をもたらすと主張する詐欺プラットフォームへの登録を視聴者に促している 。ターゲットは「Quantum AI」というサイトに誘導されるが、サイバートレースによると、このサイトは詐欺や金融詐欺の拠点として悪名高い。
この動画は、2023年10月にローズ・トラストが主催した「炉辺談話」におけるフォレスト氏の行動や所作を改変したものだった。サイバートレースは1月27日、Facebook上でこのディープフェイク動画を発見した。AIによって改変されたフォレスト氏の姿が、詐欺的な暗号資産取引プラットフォームを宣伝している様子が映し出されていた。
FacebookとInstagramの親会社であるMetaは2020年初頭にディープフェイク動画の禁止を導入したが、ソーシャルメディアプラットフォーム上では、いまだに改ざんされた動画がユーザーを狙って大きな混乱を引き起こしている。しかし、フォレスト氏は詐欺防止策が不十分だとFacebookを批判した。
この億万長者は、自身のイメージを悪用したとされる別の暗号資産広告詐欺でFacebookを相手取って刑事告訴されている。フォレスト氏は、自身の不満を表明し、[https://www.9news.com.au/national/andrew-forrest-deepfake-videos-billionaire-slams-facebook/89409182-de54-4bdb-baf5-e346745fd915] と述べた。
「Facebookは何もしていません。私が提起した法的措置は、ソーシャルメディア企業が広告プラットフォームを不注意に運営していることに対する責任を問うためのものです。Facebookで詐欺に遭っている罪のないオーストラリア人を懸念し、約2年前に法的措置を開始しました。」
ディープフェイク詐欺師が増加
MicroStrategyの創業者マイケル・セイラー氏は最近、チームが毎日約80本の偽造動画の削除に取り組んでいることを明らかにしました。その多くは、様々なビットコイン詐欺を推奨する目的で作られています。さらに、テスラとスペースXの創業者である億万長者のイーロン・マスク氏などの著名人を起用した改変動画も、様々なソーシャルメディアに登場しています。
これらの動画の中には、投資スキーム、無許可の商品、または無関係なeコマースサイトへのリンクが含まれているものもあり、数日後には消えてしまいます。
人工知能（AI）によって生成されたディープフェイク動画は、世界中で徐々にセキュリティ上の脅威の一つとして浮上しつつあります。 Sumsubのデータによると、北米におけるディープフェイクの割合は、2022年から2023年第1四半期にかけて大幅に増加しました。[https://sumsub.com/newsroom/new-north-america-fraud-statistics-forced-verification-and-ai-deepfake-cases-multiply-at-alarming-rates/]
米国では0.2%から2.6%に急増し、カナダでは0.1%から4.6%に上昇しました。同時に、2022年の全詐欺の4%から5%を占めていた印刷物の偽造は、第4四半期には0%に急減しました。
ディープフェイク検出技術の継続的な更新に取り組んでいない不正対策・検証プロバイダーは遅れをとっており、企業とユーザーの両方を危険にさらしています。ディープフェイク検出技術のアップグレードは、現代の効果的な検証・不正対策システムに不可欠な要素です。