インシデント 1241: AI生成とされる動画が、マレーシアの未成年者をターゲットにしたテレグラム経由の5,800リンギット（約1,400ドル）のセクストーションに使用されたと報じられている。
概要: マレーシアのある家族から、詐欺師がAI生成の露骨な動画コンテンツと称して、10代の息子をセクストーション（性的脅迫）の標的にしていたとの報告がありました。犯人はTelegram経由で息子に連絡を取り、息子が危険な状況にある様子を映した加工動画を送りつけ、公開を阻止するために5,800リンギット（約1,400ドル）を要求したとされています。家族は当局に通報し、未成年者を狙った生成AIの利用が増加していることについて、他の関係者にも警告しました。
Alleged: Unknown deepfake technology developers developed an AI system deployed by Unknown scammers , Unknown sextortionists と Unknown criminal actors operating on Telegram, which harmed Unnamed Malaysian minor in sextortion attempt , Family of unnamed Malaysian minor in sextortion attempt と General public of Malaysia.
関与が疑われるAIシステム: Unknown deepfake technology と Telegram
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.3. Fraud, scams, and targeted manipulation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
インシデントレポート
レポートタイムライン
Loading...
保護者の皆様、お子様に十分ご注意ください！ 子供をターゲットにした衝撃的な詐欺が新たに発生しており、子供自身の写真やAI生成の動画を使って金銭を要求しています。恐ろしい新たな詐欺がFacebook 上で広がっていますが、今回の被害者は大人ではなく、罪のない子供たちです。地元の一家は昨夜遅く、10代の息子が自分の写真とAI生成のわいせつな動画を含む脅迫メッセージを受け取ったことで、現代の詐欺についての恐ろしい教訓を学びました。攻撃者はRM5,800を要求し、少年に支払うよう圧力…
バリアント
「バリアント」は既存のAIインシデントと同じ原因 要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents