ブルキナファソの新軍事政権への支持を表明する人々の奇妙なAI生成動画がオンライン上に登場しました。これは、親軍事プロパガンダを拡散するための不器用な試みである可能性があります。
動画の作成者は不明ですが、WhatsAppで共有されているようです。
動画の1つは、米国議会調査局のアフリカ問題専門家であるローレン・ブランチャード氏によって今週Twitterで共有され、広く拡散されました。ブランチャード氏によると、動画はWhatsAppで拡散されていたものの、作成者は不明とのことです。
「アフリカの人々、特にブルキナファソの人々へ、こんにちは。私の名前はアリーシャ。私は汎アフリカ主義者です」と、動画に登場する人物の一人が語りかけています。VICE World Newsは、この動画がAI動画生成ツール「Synthesia」によって作成されたことを確認しています。
Synthesiaは、動画を作成したユーザーをBanしたと発表しましたが、身元は明かしませんでした。
動画に登場するAI生成アバターは続けてこう述べています。「ブルキナファソの人々、そしてブルキナファソの人々の皆様に、政権移行当局への効果的な支援を強く求めます。」
「この闘いにおいて、ブルキナファソの人々と共に、共に歩み続けましょう。祖国か死か。私たちは必ず乗り越えます。」
この動画は、複数の異なるアバターが登場する、同じ台詞を読み上げる類似のクリップと並んで公開されています。こちらもSynthesiaを使用して作成されています。
2つ目の動画は、ブルキナファソ出身のサヘル地域の政治学者を自称するイブラヒマ・マイガ氏によって1月23日にFacebookに投稿されました。同国の新政権を支持する投稿をしているマイガ氏は、Facebookメッセンジャー経由でVICEワールドニュースに対し、Facebookに投稿する前にWhatsAppでこの動画を見つけたが、AIで作成されたとは知らなかったと語った。
マイガ氏は、VICEワールドニュースが連絡を取った直後に動画を削除したようだ。
ブルキナファソは現在、9月のクーデターで権力を掌握したイブラヒム・トラオレ暫定大統領によって統治されている。西アフリカのこの国は、歴代政権がジハード主義者の暴力の拡大を阻止できなかったと主張し、軍が現在運営している。
一部のTwitterユーザーは、証拠もなく、これらの動画はロシアの民間軍事会社ワグナー・グループによるものだと主張している。
ワグナーは世界で最も秘密主義的で残忍な傭兵グループの一つであり、マリや中央アフリカ共和国の政府と協力してきた。ブルキナファソ軍当局は、イスラム過激派の反乱勢力と戦うために傭兵を雇ったという疑惑をこれまで否定していたが、今週、フランスは旧植民地ブルキナファソからの国内全軍の撤退という要請に同意した。
ロシアはウクライナ戦争中にディープフェイクを展開したことが知られているが、ワーグナー氏がAIを使ってこのような動画を作成したことがあるかどうかは不明である。
英国デモンフォート大学のデジタル文化教授、トレイシー・ハーウッド氏は、VICE World Newsに対し、ブルキナファソの動画に本当に騙される人がいるとしたら驚きだと語った。
「ロシアが政治的結果を操作する上で影響力を持っているという証拠が浮上している今、政治的立場を支持するオンラインコンテンツを誰が本当に信じられるだろうか。政治問題に影響を受ける人々は、仮想の真実ではなく、現実の真実を求めている」とハーウッド氏は述べた。「これらの動画は、キーボード戦士が現実から可能な限り遠ざかろうとしているようにしか見えない！」
SynthesiaのYouTubeアカウントで公開されているAIアバターの作成方法に関する動画には、ブルキナファソの動画に登場したのと同じアバターが登場し、次のように説明している。「コンテンツモデレーターのチームがルール違反者を出さないよう監視しているため、Synthesia Studioが作成した動画を通じて誤情報、偽情報、わいせつな情報を拡散することは不可能です。」
SynthesiaのCEO、Victor Riparbelli氏は、VICE World Newsに対し、動画の作成者について明言を避けたものの、次のように述べた。「当社のプラットフォーム上で作成を許可するコンテンツの種類については厳格なガイドラインを設けており、いかなる不正使用も強く非難します。最近公開された動画は利用規約に違反しており、問題のユーザーを特定し、アカウントを停止しました。
当社は、数万人のお客様に安全なプラットフォームをご利用いただけるよう、早い段階からコンテンツモデレーションに投資してきました。」
さらに、「このような事例は、モデレーションの難しさを浮き彫りにしています。問題の動画は露骨な表現を使用しておらず、主題に関する深い文脈的理解が必要です。完璧なシステムなど存在しませんが、今後同様の事態が発生しないよう、システムの改善に引き続き取り組んでまいります。」と述べた。