西オーストラリア州の消費者保護機関は、ロジャー・クック首相が投資スキームを推奨するディープフェイクAI動画を使った投資詐欺に対し、警告を発しました。同様の詐欺の多くは「見分けるのが不可能」であるという懸念が広がっています。
YouTubeで表示されるこのポップアップ動画広告は、クック首相の顔と声を使い、「低投資で高収益、そして確かな成果」を得られる機会への参加を促しています。
「なぜこの機会をもっと早く公表しなかったのか、多くの人が尋ねてきました」と、クック首相のオフィスと思われる暗い木製の机の後ろから、ディープフェイク動画がカメラに向かって語りかけています。
「真実はシンプルです。私たちは時間をかけて、オーストラリアの人々にとって安全で透明性があり、真に効果的であることを確認しました。今、私は自信を持ってそれが機能していると言えるでしょう。」
「わずか400ドルの初期投資で、ユーザーは最初の1ヶ月で平均約19,200ドルの利益を得ています。」
危険信号を見逃す
西オーストラリア州消費者保護委員のトリッシュ・ブレイク氏は、この広告の表示方法によって、より信憑性を高めた可能性があると述べた。
「彼らは、視聴者が視聴している可能性のある番組の途中でポップアップ広告としてこれを行っています…戻ってスロー再生し、動画をじっくりと見ることはできません」と彼女は述べた。
「つまり、私たちが人々に伝えている通常の危険信号や警告サインを見逃すリスクが非常に高いということです。」
「動画をゆっくり見ると、唇が言葉に合わせて動いていないことや、手の動きが少しおかしいことに気づくでしょう。
しかし、違いを見分けるのはますます難しくなっています。なぜなら、まず、プラットフォーム上で非常に速いスピードで再生され、すぐにアクセスしなければならないという緊迫感を与える一方で、動画を遡ってじっくりと調べることができないからです。」
不可能な課題
監視機関は金曜日の朝、一般市民からこの広告について報告を受け、その後ドメイン所有者を特定し、連絡を取り削除を要請しました。
しかし、ブレイク氏は、AI技術を利用したこの種の詐欺広告を常に監視することは、終わりのない戦いになっていると述べました。
「残念ながら、まる で巨大なモグラ叩きゲームのようです…削除してもすぐにまた現れてしまうのです」と彼女は言いました。
「私のアドバイスは…」こうした広告を見るすべての人は、そうでないと証明できるまでは、詐欺だと思い込むべきです。それが自分を守る最も安全な方法です。」
ブレイク氏は、より安価で洗練された技術が普及した現在、偽物と本物を見分けるのは人間の目ではほぼ不可能な段階に達していると考えていると述べた。
「ディープフェイクを作るのに必要なのは、文字通り10秒の動画と人物の声だけです」と彼女は述べた。
「これは既に重要な点だと思います。ディープフェイクが非常に精巧になり、更なる技術革新なしには見分けがつかない時代が既に到来しているのです。
プラットフォームには、そもそもそのような広告が出現するのを阻止するための対策を強化してほしいと思います。」
詐欺広告が頻繁に表示される別のプラットフォームであるMetaが、不正広告で数十億ドルの収益を上げていたことが最近明らかになった。
ブレイク氏は、プラットフォームが広告から得ている収益（中には詐欺的なものも含まれていた）を考えると、もっと対策を講じるべきだと述べた。
「プラットフォームは犯罪行為で巨額の利益を上げています。詐欺とはまさにこのことです。彼らは犯罪であり、人々は金を盗まれ、弱みにつけ込まれているのです」とブレイク氏は述べた。
「これらのプラットフォームには、現状以上の行動を起こすためのツール、リソース、そしてデータがあるのです」
「非常に恐ろしい」：クック氏
首相 は土曜日の午後、この詐欺広告について言及し、自身のイメージがこのように利用されることに心を痛めていると述べた。
＞「人々を騙し、苦労して稼いだお金を騙し取ろうとする人々がこれほどまでに手を尽くすのは非常に恐ろしい。吐き気がするほどです」
同氏は述べた。
「自分の画像がこのように利用されたことに、本当に心を痛めました。
はっきりさせておきたいのですが、政府は投資スキームや特定の金融商品を推奨しているわけではありません。
このような動画を信用しないでください。」
ブレイク氏は、同様の広告を見た人は、WA ScamNet（scamnet.wa.gov.auを通じて消費者保護局に報告するよう呼びかけました。
「恥ずかしがる必要はありません。ご連絡いただければ、できる限りのサポートをさせていただきます。特に、今後再び詐欺の被害に遭うことがないよう、お手伝いさせていただきます」とブレイク氏は述べました。