ベネズエラにおける米軍の軍事作戦によりニコラス・マドゥロ大統領が排除された後、ベネズエラ国民が街頭で祝う様子を映したとされるAI生成動画がソーシャルメディアで拡散している。
歓喜に沸く群衆を映したこれらのAI動画は、TikTok、Instagram、Xといった主要プラットフォームで数百万回再生されている。
Xで最も早く、そして最も広く共有された動画の一つは、「Wall Street Apes」というアカウントによって投稿されたもので、このアカウントは同プラットフォームで100万人以上のフォロワーを抱えている。
この投稿には、ベネ ズエラ国民が喜びの涙を流し、マドゥロ大統領の排除に対して米国とドナルド・トランプ大統領に感謝する様子が映っている。
この動画はその後、Xのクラウドソーシングによるファクトチェック機能であるコミュニティノートによってフラグ付けされました。コミュニティノートでは、ユーザーが誤解を招くと思われる投稿に文脈を追加できます。ノートには、「この動画はAIによって生成されており、現在、人々を誤解させることを意図した事実の表明として提示されています」と書かれていました。
この動画は560万回以上再生され、少なくとも3万8000のアカウントによって再共有されました。その中には実業家のイーロン・マスク氏も含まれていましたが、マスク氏は最終的にこの再投稿を削除しました。
CNBCは動画の出所を確認できませんでしたが、BBCとAFPのファクトチェッカーによると、この動画の最も古いバージョンは、AI生成コンテンツを定期的に投稿しているTikTokアカウント@curiousmindusaに投稿されたとのことです。
こうした動画が登場する以前から、マドゥロ大統領が米国に拘束されている様子を映したAI生成画像が出回っており、トランプ政権が拘束されたマドゥロ大統領の本物の画像を公開する前から出回っていた。
退陣させられたベネズエラ大統領は、米軍による空爆と地上攻撃の後、2026年1月3日に拘束された。この作戦は、新年早々、世界のニュースの見出しを飾った。
AI生成動画に加え、AFPのファクトチェックチームは、マドゥロ大統領追放に関する誤解を招くコンテンツの例をいくつか指摘しました。その中には、チリの祝賀会の映像がベネズエラの風景として誤って提示されているものも含まれています。
トランプ大統領は今週、ベネズエラの祝賀会に関する複数の動画をTruth Socialにリポストしましたが、CNBCは、それらの多くがベネズエラ国外のパナマシティやブエノスアイレスなどの都市でも撮影されたことを確認しています。
大統領が再シェアした動画の1つには、2024年7月という早い時期に初めてオンラインに登場した古い映像が含まれていたため、マドゥロ大統領の最近の失脚とは関係がありませんでした。
主要なニュースをめぐるこのような誤情報の拡散は目新しいものではありません。イスラエルとパレスチナ、ロシアとウクライナの紛争においても、同様の虚偽または誤解を招くコンテンツが拡散されました。
しかしながら、ベネズエラの最近の情勢に関するAI生成コンテンツの広範な拡散は、AIが誤情報のツールとしての役割を拡大していることを如実に示しています。
SoraやMidjourneyといったプラットフォームのおかげで、ハイパーリアリスティックな動画を素早く作成し、目まぐるしく変化する出来事の混沌の中で、あたかも本物である かのように見せることが、かつてないほど容易になりました。こうしたコンテンツの制作者は、特定の政治的主張を増幅させたり、世界中の視聴者に混乱を招いたりすることを目的としていることが多いのです。
昨年は、政府閉鎖中に補助的栄養支援プログラム（SNAP）の給付金を失ったことに不満を訴える女性たちをAIが生成した動画も話題となりました。 AIが生成した動画の一つはFox Newsを欺き、Fox Newsはそれを本物として記事に掲載しました。記事は後に削除されましたが、Fox Newsはそれを本物として記事に掲載しました。
こうした傾向を踏まえ、ソーシャルメディア企業は、誤解を招く可能性のあるAIコンテンツにラベルを貼るための取り組みを強化するよう、ますます圧力を受けています。
昨年、インド政府はそのようなラベル表示を義務付ける法律を提案し、スペインはラベル表示のないAI素材に対して最大3,500万ユーロの罰金を承認しました。
こうした懸念に対処するため、TikTokやMetaなどの大手プラットフォームはAI検出・ラベル付けツールを導入していますが、その効果はまちまちです。
CNBCは、ベネズエラに関する誤解を招くTikTok動画の一部を特定し、AI生成とラベル付けした。しかし、捏造またはデジタル加工されたと思われる他の動画にはまだ警告が出ていなかった。
Xの場合、プラットフォームはコ ンテンツのラベル付けに主にコミュニティのコメントに依存してきたが、AIによる誤情報が拡散する前に特定されるのを防ぐには、システムの反応が遅すぎると批判されている。
InstagramとThreadsを統括するアダム・モッセリ氏は、最近の投稿で、ソーシャルメディアが直面する課題を認めた。「主要プラットフォームはすべてAIコンテンツの識別に優れた成果を上げているだろうが、AIが現実を模倣する能力が向上するにつれて、その能力は時間とともに低下していくだろう」と同氏は述べた。
「私と同じように、偽メディアよりも本物のメディアのフィンガープリンティングの方が現実的だと考える人がすでに増えています」と彼は付け加えた。
— CNBCのビクトリア・ヨーが本記事に寄稿しました。