インシデントのステータス
Risk Subdomain
4.3. Fraud, scams, and targeted manipulation
Risk Domain
- Malicious Actors & Misuse
Entity
Human
Timing
Post-deployment
Intent
Intentional
インシデントレポート
レポートタイムライン
韓国の大統領は、若い女性を狙ったディープフェイクポルノが氾濫する中、当局に対し、国内のデジタル性犯罪の蔓延を「根絶」するためにさらなる努力をするよう求めた。
当局、ジャーナリスト、ソーシャルメディアのユーザーは最近、メンバーが性的に露骨な「ディープフェイク」画像を作成し共有している多数のチャットグループを特定した。その中には未成年の少女の画像も含まれている。
ディープフェイクは人工知能を使用して生成され、実在の人物の顔と偽の体を組み合わせることが多い。
韓国のメディア規制当局…
ソウル、9月2日(聯合ニュース) - ディープフェイクポルノ画像が拡散したため、多くの韓国女性がフェイスブックやインスタグラムなどのソーシャルメディアプラットフォームから自撮り写真を削除している。世界で最もインターネットが普及した国で、誰もが例外なく犯罪に巻き込まれるのではないかという懸念が高まっているからだ。
「私たちにとって最も安全な場所であるはずの日常生活が侵害されたように感じます」と、姓をリーとだけ名乗る27歳の女性は語り、ソーシャルメディアから自分の痕跡をすべて削除…
先週の土曜日、匿名の送信者からテレグラムのメッセージがヒジンの携帯に届いた。「あなたの写真と個人情報が漏洩しました。話し合いましょう。」
この大学生がチャットルームに入ってメッセージを読むと、数年前に学生時代に撮影された自分の写真が届いた。その後、同じ写真を使った2枚目の画像が届いたが、こちらは性的に露骨で偽物だった。
ヒジン(本名ではない)は恐怖に駆られ、返信しなかったが、画像は次々と送られてきた。そのすべてで、彼女の顔が、高度なディープフェイク技術を使って性行為をしている…