このレポートは、インシデント903の詳細に完全に焦点を当てているわけではありませんが、それらに言及しています。
ロイター通信によると、英国法務省は重大な法的ギャップを埋めたいと考えています。同意なしに親密な写真や動画を共有すること（リベンジポルノ）は2015年から違法ですが、法律はこれまでAI生成コンテンツを対象としていませんでした。
2024年4月に最初に発表提案されている法案では、性的に露骨なディープフェイクを同意なしに作成または共有すると、罰金または懲役刑につながる可能性があります。新しい法律は、動画、画像、音声録音を含むすべての形式の合成メディアを対象とします。実施のタイムラインは発表されていません。
マーガレット・ジョーンズ技術相は、政府はこの種の虐待的コンテンツをホストするプラットフォームを取り締まり、より厳しい管理とより厳しい罰則を実施する計画もあると述べた。英国のリベンジポルノヘルプラインは、ディープフェイク関連の虐待が2017年以降400%以上増加していると報告している。
現実世界への影響
合意のない性的ディープフェイクが学校にまで浸透している。 The Human Factor による最近の調査によると、教師の 60% が生徒がディープフェイク スキャンダルに巻き込まれる可能性を懸念している一方で、親の 73% は自分の子供が巻き込まれることはないと考えている。
マイアミでは、13 歳と 14 歳の 2 人のティーンエイジャーが クラスメートの AI 生成ヌード画像を作成し共有したとして逮捕された。これらの事件が特に問題なのは、画像がプライベート チャット グループを通じて拡散されることが多く、何ヶ月も流通する可能性があることだ。
北アイルランドの政治家カーラ・ハンター氏の事件は、こうした攻撃がいかに壊滅的であるかを示している。重要な選挙の3週間前、誰かが彼女のポルノディープフェイク動画をシェアし、それがWhatsAppで急速に広まった。その後、下品なメッセージや路上での嫌がらせ、偽動画があまりにも本物らしく見えたため、家族が彼女の否定を疑問視する事態まで起きた。
ドイツもディープフェイクの脅威への対応を強化している。連邦議会が提案した新しい法案では、個人の権利を侵害するAI生成コンテンツを共有すると、最高2年の懲役または罰金が科せられる。生活の極めて個人的な側面を侵害するディープフェイクの場合、違反者は最長5年の懲役刑を受ける 可能性がある。