2024年4月、スーダンのFacebook上で炎に包まれた建物の画像が拡散しました。この画像は、ワドマダニ市にあるアルジャジーラ大学の建物で、スーダン軍が爆撃したというキャプションとともに広く共有されました。多くの政治指導者や著名人がこの画像に便乗し、共有しました。
しかし、これは特異な事例ではありませんでした。スーダン軍と反政府勢力の準軍事組織である緊急支援部隊との紛争が続く中、ソーシャルメディアプラットフォームは、AIが生成したディープフェイクが互いのフェイクニュースを拡散し、より多くの支持者を獲得するために、もはや代替の戦場と化しています。この傾向は、健全な情報エコシステムを切実に必要としている北東アフリカの国にとって深刻な脅威となっています。
AIは、現在進行中の戦争のごく初期にフェイク動画を生成するために使用されていました。2023年8月、デイリー・メール紙は、スーダン駐在米国大使が、アメリカは同国におけるイスラムの影響力を低下させる計画があると発言している動画を特定しました。
2023年10月、BBCの調査により、AIを用いてスーダンの元指導者オマル・アル・バシル氏になりすますキャンペーンが明らかになり、TikTokで数十万回再生されました。
2024年3月、テレビ・ラジオ司会者のXアカウントが、スーダン軍司令官が民間人の殺害、狙撃兵の配置、建物の占拠を命じたとされる録音を共有しました。このAIによって作成された録音は23万人が視聴し、数百人が共有しました。その中には、著名なスーダンの政治家も含まれていました。
さらに、2023年9月には、明確な政治的所属はないものの、テクノロジーに精通したスーダン人がディープフェイク技術を用いて風刺的なコンテンツを作成し始めました。例えば、もともとスーダン軍を支援するために公開された歌が、RSFの指導者モハメド・ハムダン・ダガロ（通称ヘメドティ）が幹部と共に歌っているディープフェイクとして複製されました。この動画は数千回も視聴されました。視聴者は改変された歌のユーモラスな意図に気づきましたが、他のケースでは、このコンテンツ が偽情報へと変貌を遂げました。
2024年3月、AIが作成した録音には、RSF民兵のリーダーと自由と変革連合のリーダー数名が軍事クーデターの計画を話し合っている秘密会議が記録されていましたが、録音は本物ではありませんでしたが、同月に有名なジャーナリストや国営テレビによって共有され、その後削除されました。録音の作成者であるオバイ・アルサディグ氏は、この録音は「皮肉たっぷりで、セリフが弱く、偽物だ」と述べ、「このような偽の録音を作るのは難しくないということを国民に示したかった」と語った。
スーダン軍支持派は、心理戦の一環として、ヘメドティ氏の真正とされる録音に疑問を投げかけるキャンペーンを開始し、それらはすべてAIによって作成されたものであり、彼はすでに死亡していると虚偽の主張を展開した。しかし、独立した分析により、これらの録音は高い確度で正確であることが明らかにされている。
ハルツームに拠点を置くビーム・リポートは、国際ファクトチェック機構によって検証済み唯一のスーダンのファクトチェック機関であり、2023年からスーダンでコンテンツのファクトチェックを行っている。同組織はスーダンにおけるディープフェイクを追跡し、それに関する分析を発表している。
ソーシャルメディアでは、誤解を招く目的でディープフェイク技術が使用されているが、特にスーダンをめぐる状況において、過去6か月間で その使用が大幅に増加したとは言えない。しかし、AIを使用して誤解を招く音声コンテンツも生成され、スーダン情勢に関与する人物のものとされていることは注目に値する。ビーム・レポート内のマルサド・ビームという、拡散するフェイクニュースの監視とファクトチェックを担当する部門は、ビーム・レポート社はメールで、このコンテンツの真正性を検証したレポートについて説明してくれた。
ユネスコが5月に開催したオンラインセミナーにおいて、ビーム・レポート社はここ数カ月、AIの活用がもたらした課題を強調した。
ユネスコはイベント後の声明で、「オンライン上の偽情報対策に1年間取り組んできたビーム・レポート社は、現場からの報道の欠如が誤報/偽情報の増加につながっていると強調した」と述べた。「これは、生成型人工知能（AI）の利用増加によってさらに増幅され、複雑化している」偽情報やヘイトスピーチの作成と拡散における諜報活動に携わっている」
高度な技術を持つ人々も、ソーシャルメディア上のコンテンツのファクトチェックに協力していると、英国を拠点とするスーダン人活動家で、ソーシャルメディア上のコンテンツを自主的にファクトチェックしているモハナド・エルバラル氏は私に説明した。「もしある動画がディープフェイクだと思ったら、その動画のフレームを逆画像検索して一致するものを探します。AIによるディープフェイクは通常、テンプレートから再生成されるため、似たような画像が表示される可能性が高いからです。」ディープフェイクで使用されている偽のニュースチャンネルのロゴなど、クリップ内で識別可能なものはすべて検索します。」
「ディープフェイク検出における最大の制約は、信頼できるツールへのアクセスが不足していることです」と、WitnessのメディアテクノロジストであるShirin Anlen氏はメールで語った。「この分野では刺激的な研究が行われていますが、一般の人には手の届かないことが多く、高度な技術的専門知識が必要です。公開されている検出ツールは、結果の透明性と明確性が欠如しているため、理解が難しく、ユーザーは困惑することになります。特に、これらのツールが誤検知を生成する場合、そしてそれはかなり頻繁に起こります」と彼女は説明した。
「技術的な観点から見ると、これらのツールは依然としてトレーニングデータの品質と多様性に大きく依存しています。この依存は、特定の種類の操作、ペルソナ、またはファイル品質への偏りに関して、特に課題を生み出します。」 「私たちの研究では、ファイルの圧縮と解像度が検出精度に大きな役割を果たしていることがわかりました」と彼女は付け加えた。
スーダンにおけるAI生成フェイクニュースの問題は、技術が進歩するにつれてさらに深刻化する可能性があります。
「これまで、国内で流通しているAI生成ディープフェイクの多くは、品質が低いため、偽物だと簡単に判別できました。これは、スーダン方言で学習されたデータが不足し ていることに起因する可能性があります」と、ダブリン市立大学のスーダンAI研究者、モハメド・サブリー氏は私に意見を述べました。* *しかし、悪意のある人物が高度なAI技術を活用してコンテンツを作成するために、より多くの時間と資金を投資することを決定した場合、将来的には状況が変わるだろうと彼は付け加えた。
「スーダン方言のようなリソースの少ない言語では、音声複製モデルは効果が低く、簡単に識別されてしまいます。 「ロボットのような口調は、経験の浅い聞き手にもはっきりと分かります」とモハメド氏は述べた。「しかしながら、リソースの少ない言語データセットの課題に取り組むための多くの取り組みが行われています。」さらに、近アラビア語方言や領域でトレーニングしたディープニューラルネットワークの優れた一般化能力は注目に値します。」
スーダンの不安定な政治情勢において暴力を扇動する可能性のある偽コンテンツは大きな脅威である一方、地元の政治家の間で嘘つきの配当のリスクもあります。
2023年6月、スーダンの政治家ムバラク・アルドルは、別の政治家との電話での会話で軍指導者を嘲笑し、RSF民兵からの申し出を受け入れる意思を示した音声録音は正確ではなく、AIソフトウェアを使用して作成されたとツイートしました。彼は、録音の作成者は、インターネット。
この現象は、AIが生成した正当な情報でさえも疑念を抱かせるような懐疑的な環境を作り出し、深刻な悪影響を及ぼします。
ソーシャルメディア プラットフォームはディープフェイクコンテンツに対して強力な対策を講じ始めていますが、これらのコンテンツはすべて依然としてアクセス可能です。これは、スーダンなどの国では、現地の状況を理解するコンテンツモデレーターが不足しているか、あるいは不足しているため、これらのポリシーが施行されていないことを示しています。
YouTubeは、この種の偽情報を禁止するディープフェイクに関するポリシーを私に共有してくれました。このポリシーでは、「ユーザーを誤解させ、重大な危害をもたらす可能性のある、技術的に操作されたコンテンツは、YouTubeでは許可されません」と強調されています。
さらに、このポリシーでは、「クリエイターは、リアルな合成コンテンツを作成または改変した場合には、その旨を明らかにすること」と、「視聴者が重要な背景を把握できるよう、これらのコンテンツに透明性ラベルを適用する」ことが求められています。