インシデント 1241: AI生成とされる動画が、マレーシアの未成年者をターゲットにしたテレグラム経由の5,800リンギット（約1,400ドル）のセクストーションに使用されたと報じられている。
概要: マレーシアのある家族から、詐欺師がAI生成の露骨な動画コンテンツと称して、10代の息子をセクストーション（性的脅迫）の標的にしていたとの報告がありました。犯人はTelegram経由で息子に連絡を取り、息子が危険な状況にある様子を映した加工動画を送りつけ、公開を阻止するために5,800リンギット（約1,400ドル）を要求したとされています。家族は当局に通報し、未成年者を狙った生成AIの利用が増加していることについて、他の関係者にも警告しました。
Alleged: Unknown deepfake technology developer developed an AI system deployed by Unknown scammers , Unknown fraudsters , Unknown sextortionists と Unknown criminal actors operating on Telegram, which harmed Unnamed Malaysian minor in sextortion attempt , Family of unnamed Malaysian minor in sextortion attempt と General public of Malaysia.
関与が疑われるAIシステム: Unknown deepfake technology と Telegram
インシデントのステータス
インシデントID
1241
レポート数
1
インシデント発生日
2025-10-17
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
Loading...
保護者の皆様、お子様に十分ご注意ください！ 子供をターゲットにした衝撃的な詐欺が新たに発生しており、子供自身の写真やAI生成の動画を使って金銭を要求しています。恐ろしい新たな詐欺がFacebook 上で広がっていますが、今回の被害者は大人ではなく、罪のない子供たちです。地元の一家は昨夜遅く、10代の息子が自分の写真とAI生成のわいせつな動画を含む脅迫メッセージを受け取ったことで、現代の詐欺についての恐ろしい教訓を学びました。攻撃者はRM5,800を要求し、少年に支払うよう圧力…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents