インシデント 1398: ネット上の偽情報キャンペーンで、CBSの司会者ダグ・ダンバーとテキサス州フリスコの刺傷事件の容疑者を偽装したとされるディープフェイク動画が拡散されたと報じられている。
概要: テキサス州フリスコの高校陸上競技大会で発生した刺傷事件の後、CBSの司会者ダグ・ダンバー氏の発言を改変し、容疑者のカーメロ・アンソニー氏がナイフを持っているように偽装したとされるディープフェイク動画が、オンラインアカウントによってインスタグラム上で拡散されたと報じられています。この改変されたコンテンツは複数のアカウントに転載され、事件に関する誤情報が拡散され、事件後のネット上での扇動的な言説が激化しました。
Alleged: Deepfake technology developers と Synthetic audio generation technology developers developed an AI system deployed by Information manipulation actors, which harmed Doug Dunbar , Karmelo Anthony , Epistemic integrity , General public と General public of Texas.
関与が疑われるAIシステム: Deepfake technology と Synthetic audio generation technology
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.1. Disinformation, surveillance, and influence at scale
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
インシデントレポート
レポートタイムライン
Loading...
ネット上の荒らしや人種差別主義者たちは、この悲劇的なフリスコ高校陸上競技大会での刺傷事件を悪用し、オンラインで偽情報を拡散したり、AI生成のディープフェイク動画を作成したりしています。
今週Instagramに投稿されたAI生成動画の一つでは、CBSニュース・テキサスのキャスター、ダグ・ダンバーの映像が操作され、ダンバーが実際には言っていない発言をしているように見せかけられていました。また、この動画ではAIが、容疑者のカーメロ・アンソニーがナイフを手に持っている、完全に偽の動…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents