アメリカの実業家イーロン・マスク氏は、AI技術を悪用した金融詐欺を宣伝する改ざん動画に出演した著名人として新たに名を連ねています。
Facebookに投稿された動画は、マスク氏の本物の映像に人工音声を吹き替えたもので、まるで同氏がQuantum AIと呼ばれる株式取引プラットフォームへの投資を勧めているかのように見せかけています。
動画の中でマスク氏は、「早期に参加すれば、高利回りでリスクを最小限に抑えながら、株式を売却して最大3,000ドルを稼ぐことができます」と発言しているようです。「このツールを使えば、最短で経済的に自立できます」
2万7,000回以上再生されているこの偽動画は、マスク氏がReal Talk with Zubyポッドキャストに出演した際の本物の映像を使用しています。ポッドキャストのエピソードでは、マスク氏はQuantum AIについて一切言及していません。
複数のアカウントで投稿された別の偽動画は、Quantum AIに関するオーストラリアのニュース番組「9 News」の報道を映したもので、マスク氏がこの投資スキームを宣伝している様子が映っている。
9 News Australiaの司会者とされる人物は、アメリカ訛りで「オーストラリア人はもう働く必要がなくなる」と述べ、「イーロン・マスク氏は、オーストラリアのすべての住民が1日5,700ドルの収入を得られるとも述べた」と付け加えている。
その後、動画はマスク氏の発言に切り替わり、「最新のプラットフォームであるQuantum AIは、人々が一銭たりとも無駄に働くのではなく、一攫千金を狙うのに役立つ」と述べているとされる。
マスク氏は、リチャード・ブランソン氏、ジェフ・ベゾス氏、ビル・ゲイツ氏を「著名な株主」として挙げ、その後、視聴者に対しQuantum AIのウェブサイトで「最低400ドルの投資」を行うよう指示している。
この動画には、人工知能（AI）によって操作された本物の映像も含まれている。
この動画には、9 News Queenslandの司会者ミア・グローバー氏が、警察官への暴行事件を紹介すると、2023年世界政府サミットで講演するマスク氏の映像が映っている。どちらの場合も、彼らの声は人工的に生成された音声で吹き替えられている。例えば、グローバー氏は母国語のオーストラリア訛りではなく、アメリカ訛りで話している。
さ らに、視聴者が1分29秒の動画を最後まで視聴すると、「Learn more 9news.com.au」というメッセージが表示されるが、これは9 Newsのウェブサイトの実際のアドレスである。しかし、実際には、このリンクをクリックするとURLが異なる偽ウェブサイトに誘導されます。
この偽ウェブサイトには、「テスラ、最新プラットフォームQuantum AI™を発表 ― 家族の富裕化支援を目指す」という記事が掲載されており、署名はフォーブス誌の副編集長ジョナサン・ポンシアノ氏です。
偽ウェブサイトには、閲覧者が閲覧した時点での日付と現在時刻が表示されますが、時間は進行を停止し、埋め込まれたニュースリンクはすべて量子AI詐欺のさらなる宣伝につながります。
RMIT大学の人工知能担当副学部長、ジョン・タンガラジャ教授は、RMIT FactLabに対し、AI生成コンテンツが金融詐欺に利用されていることへの懸念が高まっていると述べました。
「これは、テキストで騙すメール詐欺の現代版です。これらの詐欺は、音声と視覚的な要素でそれをさらに巧妙にしています」と同教授は述べています。
具体的には、AI生成動画の両方でマスク氏の唇がぼやけており、eSafetyコミッショナーによると、これはディープフェイク技術の兆候である可能性があります。動画では、マスク氏の唇の動きがロボット音声と同期していません。 MITプロジェクト Detect DeepFake は、音声クローニングが使用されているかどうかを分析する際に注意すべきもう一つの兆候として、これを挙げています。
音声クローニングとは、コンピュータプログラムを用いて、人の声を合成した、適応性のあるコピーを生成することです。容易に入手可能なソフトウェアを使えば、ユーザーは声をコピーし、作成したテキストを読み上げることができます。
オーストラリア競争消費者委員会のScamWatch は、有名人の推薦を装った投資詐欺が蔓延していると指摘しています。
FactLabは以前、ジーナ・ラインハート氏とリチャード・ブランソン氏が一攫千金の計画を宣伝する動画を調査し、偽物であることが判明しました。
ACCCによると、オーストラリア人は2022年に詐欺で31億ドルの損失を報告しており、これは2021年の数字から80%増加しています。
投資詐欺の見分け方に関する情報は、ACCC ScamWatchウェブサイトでご覧いただけます。