労働党党首のキア・スターマー氏は最近Facebookに掲載した広告の中で、「英国民を危機から救い出す」計画があると述べている。
この映像は本物のように見えるが、実はディープフェイクであり、人工知能（AI）を用いて編集・改変されている。オリジナルの映像は、スターマー氏が昨年夏、スコットランドでエネルギー政策に関する演説を行った際にAI技術を用いて改変されたものだ。
これは、2022年から2024年初頭にかけて、詐欺キャンペーンの一環としてFacebookやInstagramで拡散された、スターマー氏やリシ・スナック氏を含む政治家の偽動画の一つである。
これらの動画は、「Quantum AI」というブランド名で高収益投資の詳細を明 らかにしているように見せかけられていた。世界中で公開され、英国だけでも約100万回視聴された。プラットフォームの親会社であるMetaは、動画の拡散を阻止できなかったようだ。
これらの広告は、欧州各地で行われる主要選挙を控え、テクノロジープラットフォームが偽情報を抑制できるかどうかという疑問を投げかけている。この問題は、調査報道局（TBIJ）による新たな調査で浮き彫りになっています。この調査では、ここ数カ月間にFacebook上で政治家を騙した詐欺広告が数千件も出回っていたことが明らかになっています。
Quantum AIの広告には、ボリス・ジョンソン、イーロン・マスク、ジェフ・ベゾス、アンジェリーナ・ジョリー、ライアン・レイノルズといった著名人も登場しており、多くの人々を騙して現金を支払わせたようです。
TBIJは、改ざんされた動画に騙されてQuantum AIに金銭を奪われたと主張する複数のオンラインレビューを発見しました。ある人は「数百ドル」を騙し取られたと述べ、別の人は貯金をすべて失ったと述べています。
Metaによって多数の広告がブロックされているにもかかわらず、新たな広告は次々と公開され、それぞれ数千回もの視聴回数を集めています。
このキャンペーンは世界中をターゲットにしており、各国に合わせた動画が制作されていました。英国とアイルランドの放送局に加え、イタリア、フランス、ハンガリー、ポーランド、ドイツ、オランダのメディアからも、改ざんされた映像が使用されていました。
英国では 、この詐欺行為は政府の取り組みとして宣伝されていましたが、EU諸国をターゲットとした広告には、欧州委員会のウルズラ・フォン・デア・ライエン委員長が登場し、「ヨーロッパで稼ぐための新しい投資プラットフォーム」である「European Partnership」を宣伝しているように見えました。後者の広告には、300ユーロの投資ごとに毎日300ユーロの収益を約束する偽のウェブサイトが含まれていました。
今年2月時点で、Quantum AIに言及するMeta広告は合計1,200件アクティブであることが確認されており、AI生成動画を使用したものも含まれています。
英国では、社会問題や政治問題に関するものとしてリストアップされたQuantum AIの広告321件が、最大120万回視聴され、詐欺師に1万5000ポンドから3万1000ポンドの損害を与えました。しかし、実際の数字はおそらくはるかに高いでしょう。Quantum AIの広告全てにこのラベルが付けられていたわけではなく、TBIJはラベルが異なる同一の動画を発見しました。
詐欺師たちは、ボリビア、インド、メキシコ、ブラジルの政治団体や政治家を含む、様々な「認証済み」Facebookページを乗っ取ったようです。
Quantum AIのアカウントはMetaプラットフォームだけでなく、TikTok、YouTube、X（旧Twitter）でも確認されており、いずれも詐欺を宣伝するディープフェイク動画を配信していました。これらのプラットフォームはすべて、視聴者を誤解させるAI生成または編集されたコンテンツを禁止しています。
Metaの広報担当者はTBIJに対し、同社はポリシーに従って違反広告を削除したと述べました。
さらに、「Metaはセレブリティーを狙った動画を検出するための専門シス テムを導入し、訓練を受けた審査チームに多額の投資を行い、詐欺を回避するためのヒントを共有し、潜在的な違反を報告するためのツールを提供しています。また、法執行機関と連携し、法的措置も講じています」と付け加えた。
Googleの広報担当者はTBIJに対し、「昨年初めてこの詐欺行為を検知し、複数の広告主アカウントの即時停止や関連するYouTubeチャンネルの削除など、広範な執行措置を講じました」と述べた。
TikTokはTBIJに対し、フラグが付けられた動画を削除し、類似コンテンツの追加調査を実施する予定だと述べた。