昨年10月、ニュージャージー州の15歳の高校生フランセカ・マニさんは、クラスの男子生徒がAIソフトウェアを使って、自分とクラスメイトの女子生徒の性的に露骨な画像をでっち上げたことを知った。それ以来、彼女は他の人に同じことが起きないようにする使命を負っている。マニさんは、全国の政策立案者、教育委員会、テクノロジー企業の前で改革を訴えてきた。
「私とクラスメイトに同じことが起こったとき、私たちには何の保護もありませんでした」とマニさんは言う。「私は、これらの女性や少女たちに、私たちが彼らのためにここにいると伝えたいのです」
ここ数年でAI画像生成ツールが広く利用できるようになったため、ウェブ上で出回っている性的に露骨なディープフェイクの数は急増。今年初め、AIが生成したテイラー・スウィフトのポルノ画像や暴力的な画像がソーシャルメディアで広く共有された。ボタンをクリックするだけで作成できる同様の画像が、世界中の若い女性を辱め、いじめるために使用されている。監視機関は現在、AIツールに規制がかけられなければ、児童性的虐待画像がインターネットに溢れる可能性があると警告している。マニさんは、ディープフェイクに関する自分の体験を公に話し始めてから、世界中から他の少女たちが同じように標的にされたと書いてきたと語る。「さまざまな州、さまざまな国からたくさんの少女が来ていました」とマニさんは言う。「そして、私たち全員に共通していたのは、AI学校の方針の欠如、法律の欠如、そして同意の無視という3つの点でした。」そこでマニさんと母親のドロタさんは過去1年間、国中を駆け巡り、3つの分野すべてで変化を求めてきた。マニさんはテッド・クルーズ上院議員の「Take It Down」法案を支持する公聴会で演説した。この法案は、ウェブサイトに露骨な画像を削除させ、そのようなコンテンツの公開を連邦犯罪にすることを目的としたものである。 （同様の法案は、ニューヨークやバージニアなどの州でも可決されており、性的に露骨なディープフェイクを禁止する法律が改正された 。）
マニ氏はまた、活動家連合Encode Justiceと協力し、地区レベルのディープフェイク虐待ポリシーの制定を求める全国キャンペーンに取り組んでいる。「私の目標は女性と子供を守ることです。まずはAI学校のポリシーから始める必要があります。なぜなら、ほとんどの標的がここだからです」と彼女は言う。