これはポリティコのニュースレターからの抜粋です。完全なレポートについては、ウェブサイトをご覧ください。
ディープフェイク：個人的なことが政治的になるとき
--- 北アイルランドの政治家であるカーラ・ハンターは、2022年の同国の議会選挙まであと数週間というときに、知らない人からWhatsAppメッセージを受け取った。その男性はすぐに、ハンターが、当時24歳のハンターと共有した40秒の動画に出てくる女性かどうか尋ねた。動画を開くと、ハンターはAIが生成した、生々しい性行為をしている自身のディープフェイク動画を目にした。数日のうちに、偽の動画は拡散し、北アイルランドの女性は世界中の男性から、ますます性的で暴力的なメッセージを含むダイレクトメッセージに襲われた。
「それは私を政治的に弱体 化させるためのキャンペーンだった」と、2022年の北アイルランド議会選挙でわずか数票で当選したハンター氏は私に語った。「彼らは、私に似た人物の露骨な写真を見たからといって、私に意地悪なメッセージを送っても構わないと感じていた。それは、私がコントロールできない私に対する汚いイメージを残した。私は一生、この影響を払わなければならないだろう。」
この話に入る前に、はっきりさせておきたいのは、残念ながらディープフェイクポルノは新しいものではないということだ。それはほぼ10年前から存在しており、ほぼ完全に女性をターゲットにしている。テイラー・スウィフトが最新の被害者となった後、この問題は再び世間の注目を集めた。彼女の生々しい画像がAIによって4Chanの掲示板で作成され、X（旧Twitter）で広く共有されたのだ。私はまた、この記事を読んでいる女性なら誰でもすでに知っていることをマンスプレイニングで説明するつもりはない。これはすべて権力の問題だ。女性を貶める権力、女性が公の場に参加する方法をコントロールする権力、男性（ほぼすべて男性）が価値がないと考える声を黙らせる権力。私の言うことを鵜呑みにしないでほしい。この件については何年も前から素晴らしい報道がなされている。 （こちら、こちら、こちら。）男性政治家がこのような性的虐待の標的になった例は見つかりませんでした。
「これらのディープフェイク動画は、女性に公の場から離れるよう伝えています」と、オンライン性的虐待への法的対応の第一人者であるクレア・マクグリン氏は私に語りました。 「これは男性が女性に『俺たちがお前たちにできることはこれだ』と言っているようなものだ。多くの若い女性は、これが自分たちに迫る新たな脅威であることをよく分かっている」。スウィフトに起きたことが世界的な注目を集めたのと同じくらい、ディープフェイクポルノは――最新世代のAI技術によって、同意のない露骨なコンテンツを簡単に作成・共有できるようになった――至る所で見られる。スペインでは10代の少女たちに起きている し、韓国の映画俳優たちに起きている。ハンターのような女性政治家が民主的なプロセスへの参加を黙らせるために、こうしたことがますます多く行われている。
これほど広範囲に及ぶものにもかかわらず、画像ベースの性的虐待の作成と共有を違法とする法律はほとんど、あるいはまったくない。米国のカリフォルニアやニューヨークなどの州に はディープフェイクポルノに関する法律があるが、これまでのところ、それらは適用されていない。スウィフトスキャンダルを受けて、米国の上院議員らは法案を提案しようと躍起になっているが、この法案が実現する可能性は低く、被害者が加害者を訴えることに焦点が当てられている。EUのデジタルサービス法はディープフェイクポルノについてほとんど何も触れていないが、欧州議会議員らは今週、こうした合意のない画像の共有を犯罪とする新法を支持したが、施行は2027年からにとどまる。英国のオンライン安全法にはディープフェイクポルノを対象とする規定があるが、それがどのように実施されるかはまだ不透明だ。
これまでのところ、オーストラリアはオンライン安全法を通じて最も進んでおり、同法は、国のeSafetyコミッショナーに、ディープフェイクポルノを共有する人々に画像ベースの性的虐待を削除するよう強制する権限を与えている。ただし、刑事罰は含まれていない。昨年末、同庁はその権限を使ってフィリピン在住のオーストラリア人にディープフェイクポルノを削除するよう強制したが、それはその人物がオーストラリアに帰国し、法廷侮辱罪で地元警察に逮捕された後のことだった。「ディープフェイクがどんどん増えています」と、同じく露骨なコンテンツの標的にされたことがあるオーストラリアのeSafetyコミッショナー、ジュリー・インマン・グラント氏は私に語った。「若者がMidjourneyやStable Diffusionといった非常に強力な消費者向けアプリを使ってクラスメートのディープフェイクを作成し、いじめに使うのは非常に簡単です」
北アイルランドの政治家ハンター氏にとって、ここが個人的なことが政治的なものになるところだ。ディープフェイクポルノ攻撃の標的となった後、彼女は両親に何が起こっているのか、そしてAIが生成した動画は彼女ではないことを説明する必要があった。彼女は公開イベントに出席し、パブで一杯飲んだこともあったが、そこでは人々が屈辱的なほのめかしをした。選挙の数週間前に起こったことを考えると、彼女は反論を公にするか、すべての票が集計されるまで待つか、考えなければならなかった。彼女は、自分の政治的見解のためではなく、若い女性であるために攻撃されたと感じていた。「新しいテクノロジーが女性を虐待するために使われるのを見るのはグロテスクです」と彼女は語った。「何年もかけてコミュニティで信頼を築いてきましたが、一挙にsweet FAを意味したのです。」