スーダンの元指導者オマル・アル・バシル氏のなりすましを人工知能（AI）で実現するキャンペーンが、TikTokで数十万回も再生され、内戦で引き裂かれた同国にオンライン上の混乱をもたらしている。
匿名のアカウントが8月下旬から、元大統領の「流出した音声」と称する動画を投稿している。このチャンネルには数十本の動画が投稿されているが、音声は偽物だ。
戦争犯罪を計画したとして告発され、2019年に軍によって失脚したバシル氏は、1年間公の場に姿を見せておらず、重体とみられている。バシル氏は戦争犯罪容疑を否定している。
4月に軍と対立する民兵組織「緊急支援部隊」との間で戦闘が勃発し、危機に瀕している同国において、彼の行方をめぐる謎は更なる不確実性をもたらしている。
専門家によると、このようなキャンペーンは、新たなツールが ソーシャルメディアを通じて偽コンテンツを迅速かつ安価に拡散できることを示しているため、重要な意味を持つという。
「私が最も懸念しているのは、高度な音声・映像操作技術へのアクセスが民主化していることです」と、米国カリフォルニア大学バークレー校でデジタルフォレンジックを研究するハニー・ファリド氏は述べている。
「高度な技術を持つ人物は数十年にわたり現実を歪曲してきましたが、今では技術的な専門知識がほとんどない一般人でも、偽のコンテンツを迅速かつ容易に作成できます。」
これらの録音は「スーダンの声」というチャンネルに投稿されている。投稿内容は、クーデター未遂事件の記者会見の古い映像、ニュース報道、そしてバシール大統領によるものとされる複数の「流出した録音」が混在しているようだ。投稿内容は会議や電話の会話を録音したように見せかけていることが多く、回線の調子が悪いため当然のことながら、音声が粗い。
これらの真偽を確認するため、まずBBCモニタリングのスーダン専門家チームに相談した。イブラヒム・ハイサル氏は、これらの動画は最近のものではない可能性が高いと述べた。
「声はバシール氏に似ているが、ここ数年、彼は重病を患っており、これほど明瞭に話せるとは思えない」
だからといって、本人ではないというわけではない。
他の可能性も検討したが、これは古い動画が再び浮上したわけではなく、物まね芸によるものではない可能性が高い。
最も決定的な証拠は、X（旧Twitter）のユーザーから提供された。
彼らは、2023年8月に投稿されたバシール氏の最初の動画を認識し た。この動画には、バシール氏がスーダン軍司令官のアブデル・ファッター・ブルハン将軍を批判している様子が映っている。
バシール氏の動画は、2日前にスーダンの人気政治評論家、アル・インシラフィ氏がFacebookライブ配信した動画と一致した。インシラフィ氏は米国在住とみられているが、これまで一度もカメラに顔を出したことはない。
二人の音声は特に似ているわけではないが、台詞は同じで、両方のクリップを再生すると完璧に同期して再生される。
ファリド氏は、音声波形を比較すると、発話と沈黙のパターンが似ていると指摘する。
証拠は、音声変換ソフトウェアがバシール大統領の話し方を模倣するために使用されたことを示唆している。このソフトウェアは、音声をアップロードするだけで別の声に変換できる強力なツールだ。
さらに調査を進めた結果、あるパターンが浮かび上がった。同じブロガーのライブ配信から切り取られた、バシール大統領の音声録音が少なくとも4つ見つかった。彼が関与しているという証拠はない。
TikTokアカウントは完全に政治的なもので、スーダンで何が起こっているのかについての深い知識が求められるが、このキャンペーンから誰が利益を得ているのかは議論の余地がある。一貫しているのは、軍のトップであるブルハン将軍への批判だ。
その動機は、視聴者を欺き、バシール大統領が戦争で何らかの役割を果たすために台頭してきたと信じ込ませることにあるのかもしれない。あるいは、このチャンネルは元指導者の声を利用することで、特定の政治的見解を正当化しようとしている可能性もある。その意図は不明 である。
「スーダンの声」は、国民を誤解させたことを否定し、いかなる団体にも属していないと述べている。我々はこのアカウントに連絡を取ったところ、返信には「私の声を伝え、私のスタイルで祖国が直面している現実を説明したい」という内容のテキストメッセージが届いた。
バシール大統領を装うこの規模の試みは「地域にとって重大な意味を持つ」とされ、視聴者を欺く可能性があると、BBCラジオ4で合成メディアの進化を検証したヘンリー・アジダー氏は述べている。
AIの専門家は、偽の動画や音声が偽情報の波を引き起こし、不安を煽り、選挙を混乱させる可能性を長年懸念してきた。
「憂慮すべきなのは、こうした録音によって、多くの人が本物の録音でさえ信じないような環境が作り出される可能性があることだ」と、ノースイースタン大学シビックAIラボの研究者であるモハメド・スリマン氏は述べている。
音声ベースの偽情報はどのように見分けられるのか？
この例で見てきたように、人々は共有する前に、その録音が信憑性があるかどうか疑うべきだ。
信頼できる情報源から発信されたかどうかを確認することは不可欠だが、音声の検証は困難だ。特にメッセージアプリでコンテンツが流通している場合はなおさらだ。スーダンで現在起こっているような社会不安の時期には、さらに困難になる。
合成音声を見分けるように訓練されたアルゴリズムを作成する技術はまだ開発の初期段階にあるが、声を模倣する技術はすでにかなり進歩している。
BBCからの連絡を受けたTikTokは、アカウントを削除し、「重大な危害をもたらす可能性のある 虚偽のコンテンツ」の投稿に関するガイドラインと合成メディアの使用に関する規則に違反したと述べた。