YouTubeでオーストラリア人をターゲットにしたAI生成の詐欺広告に、アンソニー・アルバネーゼのディープフェイククローンが登場し、このテクノロジー大手と政府に対し、詐欺防止策の強化を求める声が上がっている。
広告の中で、アルバネーゼはアメリカ訛りで話し、参加者は1時間あたり平均35ドル稼げると約束しているが、その額は不明だ。「1日あたり約850ドル、つまり月額2万5000ドル以上になります」と彼は言う。
「このシステムは高度な技術と人工知能を用いて暗号通貨取引を自動化するため、収益は日々増加しています」
この奇妙な詐欺は、ユーザーをカナダの放送局CTVを装ったウェブサイトに誘導し、「国民は 公式に月額最大3000ドルを受け取ることができる」と宣伝している。
「こんにちは。首相就任初日から、税制の改善を望んでいました。もちろん、税金を完全に廃止するわけではありませんが、住民は誰でも配当金を受け取ることができるようになります」と、アルバネーゼ氏は詐欺メールの一部である架空の記録に記されている。
この詐欺メールは、AUFIRSTというプラットフォームに400ドルを投資することで「配当金」を受け取ることができるとしている。
著名人を起用した詐欺広告は新しいものではありません。そして、アルバネーゼ氏の肖像と声が利用されたのは今回が初めてではない。11月には、アルバネーゼ氏が投資スキームを宣伝しているように聞こえる人工的な音声が挿入された動画がFacebookで公開された。
他にも、億万長者のイーロン・マスク氏、アンドリュー・フォレスト氏、ジーナ・ラインハート氏の画像と音声を悪用した詐欺動画が、Facebookで多く見られました。これに対し、フォレスト氏はFacebookのオーナーであるMeta氏を米国で提訴しました。この詐欺動画では、自身の画像が23万回も表示されていたことが明らかになりました。
しかし、今回の詐欺は、YouTubeがテレビ画面で番組を視聴する手段としてますます主流になりつつあるため、注目に値します。この詐欺広告は、オーストラリアのテレビで放映されていると、目撃者は述べています。
テレビ視聴率調査会社OzTAMのレ ポートによると、今年第1四半期のテレビ視聴全体のうち、YouTubeが占める割合は7.7%でした。同社は、無料放送以外の動画配信事業者としては2番目に大きな規模で、Netflixの9.3%にわずかに及ばない。
YouTubeを所有するGoogleの広報担当者は、問題の広告は削除された模様だと述べ、同社は人間と自動の両方の審査を行い、2024年には51億件の広告をブロックまたは削除した。「著名人による推薦を偽って人々を欺くことを目的とした広告は禁止しています」と広報担当者は述べた。
しかし、納得していない人もいる。「大手テレビ局やラジオ局がこれらの広告を流したら、『AI』という言葉を使うよりも早く訴訟が巻き起こるでしょう」と、独立系広告代理店Spinachのメディア・データ担当マネージングディレクターで、広告業界のベテランであるベン・ウィリー氏は述べた。
ウィリー氏によると、YouTubeから「意味不明な」理由で拒否された広告もあるという。
ユーザー保護の責任
「しかし、これらの巨大企業は、オーストラリア人を騙してオーストラリア人を騙すことを厭わない。確かに一定のプロセスはあるものの、明らかに効果的ではない。」
メタに対する訴訟でフォレスト氏の代理人を務めるサイモン・クラーク弁護士は、このような詐欺は非常に巧妙になり得るものの、巨大IT企業は広告審査に十分な計算能力を投入していないと指摘した。
「有害コンテンツがすり抜けてしまうのは、計算能力への投資、適切な審査、そして管理を怠っているからだ」とクラーク弁護士は述べた。
「広告システムが完全に自動化されているからといって、プラットフォームがユーザーを不正広告から保護する責任を免除されるわけではない。」
ダニエル・ムリーノ金融サービス大臣は、政府が詐欺防止の枠組みの下、あらゆるセクターにコードを導入していると述べた。
「YouTubeのようなソーシャルメディア企業は、犯罪コンテンツのホスティングを阻止するために、より多くの対策を講じなければならない」とムリーノ大臣は述べ、政府はデジタルプラットフォーム各社と協議し、「義務を最終決定する」と付け加えた。