概要: Seven channels were connected in a Telegram ecosystem centered around letting subscribers, as a paid service, generate non-consensual deepfake nudes using a bot from submitted photos of women, including underage girls and women who they know in real life.
Alleged: Telegram channels と Alberto developed an AI system deployed by Telegram channels, which harmed Women , underage girls と female celebrities.
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.3. Fraud, scams, and targeted manipulation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
インシデントレポート
レポートタイムライン
/cdn.vox-cdn.com/uploads/chorus_asset/file/13959620/acastro_190204_1777_privacy_0001.jpg)
/cdn.vox-cdn.com/uploads/chorus_asset/file/13959620/acastro_190204_1777_privacy_0001.jpg)
Researchers have discovered a “deepfake ecosystem” on the messaging app Telegram centered around bots that generate fake nudes on request. Users interacting with these bots say they’re mainly creating nudes of women they know using images t…
Within 24 hours, the Vice article had inspired such a backlash that the creators of the app quickly took it down. The DeepNude Twitter account announced that no other versions would be released, and no one else would get access to the techn…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細 についてはこの研究論文を参照してください
レビュー前
インシデント発生日:
2023-08-03
インシデント状況の説明
なにが、どこで、誰を巻き込み、いつ、なぜ起きたかを理解する助けになるインシデントの周辺状況を伝える客観的なレポート
Researchers have discovered a “deepfake ecosystem” on the messaging app Telegram centered around bots that generate fake nudes on
入力／出力
インシデントに関係する知的システムへのデータ入力とシステムによって生成される出力の流れ。チャットボットの場合は、一般に人間とチャットボットの反応が行き来します
Raji
12345
Sekar
