BBCの最近の報道によると、人工知能を使ってスーダンの元指導者オマル・アル・バシルになりすます匿名のキャンペーンがTikTokで広く注目を集め、すでに内戦に苦しんでいる国でオンライン上の混乱を拡大している。 「スーダンの声」という名称で活動するこのキャンペーンは、8月下旬からバシール大統領の「流出した録音」とされる音声を投稿しているが、その音声の信憑性には疑問が投げかけられている。
バシール大統領は病気のため公の場に姿を見せておらず、 戦争犯罪容疑もかけられていることから、専門家は音声変換ソフトウェアがバシール大統領の声を模倣するために使用されていると見ている。録音の一部は、スーダンの政治評論家が米国で行った放送から盗用されたことが判明した。
このキャンペーンの動機は不明だが、バシール大統領が進行中の戦争に関与していると人々に思わせたり、特定の政治的見解を広めたりすることが目的である可能性がある。TikTokは、BBCから連絡を受け、虚偽コンテンツの投稿と合成メディアの使用に関するガイドラインに違反したとして、このアカウントを削除した。
なぜ重要なのか？
このキャンペーンは、ソーシャルメディアを通じて偽コンテンツがいかに容易に拡散されるかを浮き彫りにしており、AI専門家が指摘するように、偽情報や社会不安の拡大につながる可能性に対する懸念を高めている。音声ベースの偽情報の検出は困難であり、合成音声を見分ける技術はまだ初期段階にあります。スロバキアの事例のように、議会選挙前に政治家のAI音声を合成したディープフェイク動画が拡散するなど、実例が世界中で広がっています。各国がこの問題に取り組む中、米国の両党の上院議員は、連邦選挙中に誤解を招く政治広告を作成するためにAIが使用されるのを防ぐことを目的とした法案を支持するために協力している。