概要: TikTokとFacebookで広く共有されている動画は、2024年2月7日に東京で行われたケニア大統領ウィリアム・ルート氏がフランス語で演説している様子を偽装している。画像検索の結果、元の動画ではルート氏がケニア人ディアスポラに向けて英語で話している様子が確認できた。この加工版では、元の動画にAIが生成したフランス語の音声が重ねられているため、完全なオーディオビジュアル・ディープフェイクではなく、音声の複製が行われている。
Alleged: Unknown deepfake technology developer と Unknown voice cloning technology developer developed an AI system deployed by Unknown actors と Unknown actors manipulating footage of William Ruto, which harmed William Ruto と General public of Kenya.
関与が疑われるAIシステム: Unknown deepfake app , Unknown voice cloning technology , Facebook , Instagram と Social media
インシデントのステータス
インシデントID
1023
レポート数
1
インシデント発生日
2024-02-19
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン

要約: ケニアのウィリアム・ルート大統領がフランス語で話している動画が、ケニアのソーシャルメディアで拡散しています。しかし、音声は人工知能(AI)ツールによって編集されています。
TikTokで投稿され、Facebookで共有された短い動画には、ケニアのウィリアム・ルート大統領がフランス語と思われる言語で話している様子が映っています。
動画では、ルート大統領が聴衆の前で演壇に立っています。彼の後ろには、黒と青と白の2つの旗が掲げられています。
ルトがこう言っているのが聞こえる…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents