概要: パキスタンで拡散されたと報じられた動画には、トルコのレジェップ・タイイップ・エルドアン大統領が2025年の訪問中に投獄中のイムラン・カーン前首相への支持を表明したとされるAI生成音声が使用されていました。この動画は2020年の映像を再利用したものとされ、エルドアン大統領が実際には発言していない発言をAI生成音声で捏造したものとされています。この合成音声は、法医学的ツールと音声分析によって確認されたと報じられています。
Alleged: Unknown deepfake technology developer と Unknown voice cloning technology developed an AI system deployed by Unknown actors, which harmed General public of Pakistan , General public of Turkey , Recep Tayyip Erdoğan , Imran Khan と Pakistan-Turkey relations.
関与が疑われるAIシステム: Unknown voice cloning technology と Unknown deepfake technology apps
インシデントのステータス
インシデントID
1029
レポート数
1
インシデント発生日
2025-02-15
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
主張： トルコのレジェップ・タイイップ・エルドアン大統領は、2025年2月のパキスタン訪問中、国会で演説した際にイムラン・カーン氏を偲んだ。エルドアン大統領は、カーン前首相と「握手できれば」と「願っていた」と述べ、将来「イムラン・カーン氏に会える」ことを期待していると述べた。
事実： エルドアン大統領はそのような発言をしておらず、実際、2025年のパキスタン訪問中に国会で演説すらしていない。この動画の音声は合成音声であり、おそらくAIによって生成されたものである。さらに、添付…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents