概要: 2023年4月、スーダン駐在米国大使ジョン・ゴッドフリー氏を装った偽の音声メッセージがスーダンのソーシャルメディア上で拡散しました。AI音声複製ツールを用いて作成されたとされるこのメッセージは、大使が米国の支援を通じて世俗主義を押し付ける戦略を概説している様子を捉えていました。研究者たちは、この音声クリップは、進行中の内戦において西側諸国および民間人の影響力を弱めようとするイスラム主義系ネットワークによるものだと推測しています。メッセージはすぐに偽物であることが判明しました。
Editor Notes: The purported AI-generated audio impersonating U.S. Ambassador John Godfrey appears to have circulated in mid-April 2023, amid the early stages of Sudan's civil conflict. The Daily Mail report dated 04/27/2023 refers to the audio already being in public circulation, suggesting a likely origin between April 15–25 (04/15/2023 is this incident ID's date). The clip was reportedly disseminated via Islamist-aligned social media accounts as part of an influence campaign seeking to frame U.S. actions as secular interference. This incident ID was created on 05/31/2025. Please refer to Incident 1089 for wider context.
Alleged: Voice cloning technology developers と Deepfake technology developers developed an AI system deployed by Sudanese Islamist digital propaganda networks, which harmed United States-Sudan relations , John Godfrey , General public of Sudan , General public , Epistemic integrity と National security and intelligence stakeholders.
関与が疑われるAIシステム: Deepfake technology と Voice cloning technology
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.1. Disinformation, surveillance, and influence at scale
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
インシデントレポート
レポートタイムライン
Loading...
スーダンのイスラム主義者は、かつて同国の軍事政権の背後に勢力を誇っていたものの、支持を失い、権力も失っている。
しかし彼らは現在、高度なソーシャルメディアネットワークとAIを駆使し、国内の混乱の中で影響力のある地位への返り咲きを狙っている。
スーダンの最高軍事指導者2人は、過去2週間の大半を、アフリカ第3位の国であるこの国の支配権をめぐる争いに費やしており、米国をはじめとする諸外国は外交官や国民を避難させている。
ソーシャルメディア監視団体の調査によると、イスラム主義グループ…
Loading...
2024年4月、スーダンのFacebook上で炎に包まれた建物の画像が拡散しました。この画像は、ワドマダニ市にあるアルジャジーラ大学の建物で、スーダン軍が爆撃したというキャプションとともに広く共有されました。多くの政治指導者や著名人がこの画像に便乗し、共有しました。
しかし、これは特異な事例ではありませんでした。スーダン軍と反政府勢力の準軍事組織 である緊急支援部隊との紛争が続く中、ソーシャルメディアプラットフォームは、AIが生成したディープフェイクが互いのフェイクニュースを拡…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
