ペニー・モーダントは、2023年5月に行われたチャールズ3世の戴冠式で、予想外のブレイクを果たし、英国民の想像力を掻き立てる存在となりました。かつて冷静沈着な女王を一人失ったモーダントですが、また一人、新たな女王が現れたのです。モーダントは王室コレクションの中で最も重い「国家の剣」を50分間も振り続けました。世界中が見守る中、モーダントは儀式の威厳、力強さ、伝統、そして名誉を象徴する落ち着いた表情を保っていました。
しかし、その顔が暴力的なポルノに塗りつぶされたらどうなるか想像してみてください。最近、BBCニュースナイトに出演した元保守党議員で閣僚も務めた彼女は、国会議員時代にディープフェイクポルノの被害者だったことを明かしました。プリティ・パテル議員やアンジェラ・レイナー議員といった他の女性議員の顔と共に、彼女の顔が露骨な動画にデジタル的に合成されていたのです。「意図的に屈辱的で暴力的な行為でした」と彼女は語りました。
ディープフェイクは、デジタルの尊厳をめぐる戦いにおける最新のグロテスクな最前線であり、人工知能が武器として女性の身体を辱め、無力化し、侵害している。そして、与えられる危害は仮想的なものではなく、他のあらゆる性暴力と同じくらい現実的である可能性がある。2013年の見出しは別の主張だったかもしれない: 「模造レイプ動画に（よくできている限り）害はない、と大臣らが述べる」とテレグラフ紙に掲載された。これはディープフェイクの誕生より数年前のことだとはいえ、今日でもなお、女性の自律性というこの基本原則が議論の余地があると考える人がいるのは憂慮すべきことだ。デジタル暴力は、モーダント氏の理解するところによれば、暴力そのものだ。「こうした行為の背後にいる人々は、現実世界でどのような結果をもたらすか理解していない」と彼女は言う。
2017年に最初のディープフェイクが作られて以来、AIが生成した性的に露骨な動画がインターネット上に蔓延している。ある調査によると、2023年には50万本のディープフェイクが共有され、今年は合計800万本に達すると予想されている。ディープフェイク全体の98%は性的に露骨な内容で、そのうち99%は女性を題材としている。この技術は女性蔑視的であると同時に、現状では規制されていない。さらに悪いことに、現在は非常に洗練されているため、視聴者はもはや自分がフェイク動画を視聴していることに気づいていない。私たちは崖っぷちに立たされており、デジタル幻覚によって性的な同意に関する理解が歪められつつある若い男性の世代全体を目の当たりにしている可能性がある。
キール・スターマー政権は、ディープフェイク関連の問題に取り組む意欲を示している。ポルノサイトに年齢確認措置を義務付けるオンライン安全法改正案は、7月25日に施行された。これは、児童による不適切なコンテンツへのアクセスを防ぎ、児童を保護することが目的だ。しかし、この法律が施行されるまでに、不必要な遅延が生じた点には留意すべきだろう。（ディープフェイクの配布は違法だが、作成は合法だ。リシ・スナック氏は2024年4月にディープフェイクの制作を禁止する法律を制定すると公約したが、実現には至らなかった。キール・スターマー氏も2025年1月に同様の法律を制定すると公約したが、制作は依然として合法である。）また、多くのポルノが従来のポルノサイトではなく、Telegramグループ、Redditスレッド、4chanといった暗い僻地で流通していることにも注目すべきだろう。
どのような対策であれ、さらなる対策が必要だ。 AI駆動型ディープフェイクポルノは、他のAI開発と同様に、驚くべきスピードで進化を続ける、不穏な新たな虐待の舞台です。しかし、テクノロジーは人間によって作られています。私たちのデジタルライフの基盤は、他者によって設計、管理、そして維持されています。チャールズ国王の戴冠式でモーダントが持っていた剣は、歴史的かつ象徴的な意味を持つものでした。今日、彼女の剣は修辞的な意味合いを帯びています。女性の顔や身体が公共財のように扱われるようになっている世界において、女性の自律性、アイデンティティ、そして安全が貶められることへの、行動への呼びかけなのです。
モーダントは、英国社会の恐ろしい亀裂を露呈させました。子どもたちはポルノに無制限にアクセスできるのです。女性は同意もなく、救済措置も受けられないまま、デジタルで改変されたキメラに変えられてしまいます。このような状況を放置することは、規制の失敗であるだけでなく、文化的な失敗でもあります。テクノロジーの変化は容赦なく、女性に対する暴力は絶え間なく続いています。インターネットは封じ込めるのが難しく、悪意のある行為者で溢れています。しかし、私たちは基本的なプライバシーと尊厳を守るための意志を奮い起こさなければなりません。どんなに重くても、その剣を持ち上げて運ぶべきです。