概要: レオ14世がブルキナファソのイブラヒム・トラオレ大統領に演説する様子を映した、AI生成による36分間のディープフェイク動画とされる動画がインターネット上で拡散した。バチカンの広報室とカトリック系放送局のパトリック・マドリッドは、この動画が捏造されたものであることを公式に確認した。
Editor Notes: This incident is part of a cluster of reported deepfake videos circulated online to promote Ibrahim Traoré’s leadership, all of which are seemingly contributing to a wider disinformation campaign linked to pro-junta sentiment. The cluster seems to have arisen in March 2025 and continued through to at least the end of May 2025. See also Incident 1091 for a 2023 deepfake incident involving similar themes.
Alleged: Unknown deepfake technology developers と Unknown voice cloning technology developers developed an AI system deployed by Unknown actors と Pro-Traoré information ecosystem, which harmed Truth , Roman Catholic public と Pope Leo XIV.
関与が疑われるAIシステム: Unknown voice cloning technology と Unknown deepfake technology
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.1. Disinformation, surveillance, and influence at scale
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
インシデントレポート
レポートタイムライン
Loading...
パトリック・マドリッド氏とプロデューサーのサイラス氏は警鐘を鳴らしている。YouTubeで拡散している36分間の巧妙な動画――教皇レオ14世の演説だとされているもの――は、全くの偽物だ。AIが生成したディープフェイクだ。
動画は、ブルキナファソのイブラヒム・トラオレ大統領に向けたドラマチックな独白で始まる。動画は真面目な内容で説得力があるように見えるが、完全に捏造だ。バチカンの広報室とバチカン・ニュースはすでにこの動画を否定し、教皇がそのような演説をしたことはないと確認してい…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
