インシデントのステータス
Risk Subdomain
4.1. Disinformation, surveillance, and influence at scale
Risk Domain
- Malicious Actors & Misuse
Entity
AI
Timing
Post-deployment
Intent
Intentional
インシデントレポート
レポートタイムライン
ドナルド・トランプ米大統領は中東情勢の悪化を受け、イランへの地上部隊派遣を否定したが、イラン革命防衛隊に捕らえられた米兵とされる画像がソーシャルメディア上で拡散している。しかし、これらの画像は人工知能(AI)によって生成されたものであり、視覚的な矛盾や各画像にGoogleのAIツール「Gemini」の透かしが入っていることから、その証拠となっている。
「速報:米デルタフォース部隊がイラン革命防衛隊に拘束された」と、Xで画像を共有した2026年3月5日の投稿は述べている。
画像…
イラン内戦を装った偽画像がソーシャルメディアに溢れかえっており、イーロン・マスク氏のプラットフォーム「X」は、ユーザーが実際の戦場をAIで再現した画像を作成できるという、自らの規約を破る行為に及んでいる。
「イランは完全に勝利している」とキャプションが付けられた偽画像には、撃墜されたB-2爆撃機と、両手を拘束されて連行されるアメリカ人乗組員が写っている。
同じアカウントが、別のアメリカ軍機を写した同じ画像を共有し、「イラン当局は勝利を祝っている。世界は今、その確認を待っている…
イラン内戦勃発後数週間、人工知能(AI)によって生成された偽動画や画像がソーシャルネットワークを席巻した。
これらの動画は、実際には起きていない大爆発、攻撃を受けていない破壊された街並み、存在しない戦争抗議活動を行う兵士などを映し出し、オンライン上の紛争に混乱と混乱の要素を加えた。
ニューヨーク・タイムズ紙は、過去2週間に中東戦争に関してAIによって生成された110点以上の画像と動画を特定した。偽動画は戦闘のあらゆる側面を網羅しており、テルアビブを襲う爆発に怯えるイスラエル人…