2023年10月20日、当時14歳だったニュージャージー州の高校2年生は、クラスメートの1人がオンラインサービスを利用して、裸の女性の体に自分の顔を合成した人工画像を作成していたことを知った。そして、その生徒は彼女だけではなかった。ウェストフィールド高校の職員はフランチェサ・マニと他の複数の女子生徒に対し、クラスの男子生徒がスナップチャットの自動削除メッセージを通じてディープフェイクポルノ画像を作成し、拡散していたことを伝えた。
その後数週間にわたり、マニのアカウントは広く報道された。それ以来、彼女と母親は、州レベルと連邦レベルの両方で、このような合意のないディープフェイク画像の規制を求めるロビー活動を始めた。フランセサと母親のドロタ・マニは、トム・キーン下院議員（ニュージャージー州共和党）のゲストとして、ジョー・バイデン大統領の最近の一般教書演説に出席するよう招待された。
しかし、ドロタ・マニはフォーブスに対し、事件から約5か月が経過した現在、画像を配布した疑いのあるウェストフィールド高校の男子生徒は、1人が1日停学になった以外、何ら意味のある処分を受けていないと語った。マニ氏は、現在までに告発された少年たちは誰も彼女やフランチェスカと直接接触していないと付け加えた。
「彼らは少女たちと一緒に廊下を歩くべきではない」
ドロタ・マニ
しかし、マニ氏によると、10月20日、スクールカウンセラーがフランチェスカに、4人の少年たちが彼女のディープフェイク画像を見たことを認めたと伝えた。同様に、ウェストフィールドのクラスメイト「ジェーン・ドウ」が容疑者の少年の一人「ジョン・スミス」に対して起こした関連訴訟によると、学校の副校長はドウの母親に「学校事務室に状況について電話した生徒の一人が学校関係者に、ジェーン・ドウの裸の写真を見たと確認した」と伝えた。 （スミスの弁護士クリストファー・アダムズ氏は、フォーブス誌のコメント要請には応じなかった。）
マニ氏によると、容疑者らは全員、ニューヨーク市から西に約30マイル離れた学校に通い続けており、現在はフランチェスカと同じクラスに通っている。
「彼らは女子生徒と一緒に廊下を歩くべきではない」とマニ氏は述べた。
ウェストフィールド公立学校の広報担当者メアリー・アン・マクガン氏はフォーブス誌に宛てた電子メールの声明で、「生徒に関する問題は機密事項であるため、関与した生徒の数や科された懲戒処分について具体的な詳細は明らかにできない」と述べた。同氏はさらに、「高校は学区の生徒行動規範に基づいて直ちに調査を行った」と付け加えた。
マニさんは月曜日に公開された書面証言の約3ページの中で、娘の学校の指導者に対する不満を述べた。彼女は火曜日の午後、ディープフェイクポルノの惨劇について議会の小委員会で演説し、「即時の立法措置」を求めた。
「[フランチェスカ]がAIの被害者の1人だと知らされた瞬間、彼女は無力感と無力感を感じました」とマニ氏は火曜日に委員会に語った。「そして、彼女は少年たちのグループが少女たちのグループをからかっているのに気づきました。その瞬間、彼女は悲しみから怒りに変わりました。」
今月初め、下院監視・説明責任委員会の委員長であるナンシー・メイス下院議員（共和党、サウスカロライナ州選出）は、このような画像の作成と配布を初めて連邦犯罪とする新しい法案を提出した。
マニ氏はまた、書面による声明で、ウェストフィールド高校の管理者が娘の事件を「不適切に処理した」と述べた。
マニ氏はさらに、フォーブス誌とのインタビューで、ウェストフィールド警察署から聞いたところによると、学校は警官の立ち会いのもとで容疑者を尋問したようだが、重要なことに、両親は同席させなかったと説明した。つまり、少年たちの供述は法廷で使用できないということだ。（2000年のニュージャージー州最高裁判所の判決では、14歳未満の者が拘留されている間に警察に対してなされた発言は、「親または法定後見人が本当に連絡が取れない場合を除き、法律上容認されない」とされている。）
「学校は」しくじったとマニ氏は語った。
2024年1月末までに、地元警察は 正式に刑事告訴を拒否し、学校や学区は学校による意味のある懲戒処分を一切行わなかった。ウェストフィールド警察署はフォーブスのコメント要請に応じなかった。
「このような行動に対して学校当局が何の対応も必要としないのであれば、恥を知れ」とマニ氏はフォーブスに語った。
「男子生徒に、彼らのしていることは問題ないということを教えているだけでなく、女子生徒に、自分は女の子であり、いつか被害者になるという非常に明確なメッセージを送っています。2024年には、それは受け入れられません。」
学区の広報担当者であるマクガン氏は、メアリー・アスフェンディス校長が10月20日に学校の保護者に送ったメールのコピーも提供し、その中で同氏はこの事件を「非常に深刻」と呼び、保護者に「子供たちのテクノロジーの使用や、ソーシャルメディアに投稿、保存、共有している内容について話し合う」よう促した。
カリフォルニア州ビバリーヒルズの中学校で最近起きた同様の事件を受けて、クラスメートのディープフェイク画像やポルノ画像を流布したわずか数週間後に、生徒5人が退学処分を受けた。 12月、フロリダ州の中学生2人が、同様の画像を作成したとして逮捕された。Wiredによると、学生らは、本人 の同意なく「改変した性的描写」を共有することを犯罪とする州法に基づき、第3級重罪で起訴された。
これらは、テクノロジーが進歩するにつれて、ここ数ヶ月で全国で発生した、女子生徒に対するディープフェイク事件の既知の例の一部です。 洗練されて、さらに使いやすくなりました。「Nudify」や「ClothOff」などの名前を持つ多数のアプリやオンライン サービスでは、アップロードされた画像に基づいて、数秒以内に無限のヌード画像を作成できます。
書面による証言の中で、マニさんは10月20日以降に学校が取った数々の措置についても述べており、それが10代の少女たちの状況を悪化させたとマニさんは述べている。
マニさんの証言によると、10月20日、現在15歳の娘と他の人々が画像が出回っていることを知り、すぐに副校長に自分たちの肖像がポルノ画像の作成に使用されたと報告した。しかし、少女たちも学校職員も実際に画像を見た者はいなかった。
マニ氏によると、学校はほぼすぐに、キャンパスのインターホンシステム で女子生徒の名前を「不適切に発表」し、告発された男子生徒は「ひそかに」授業から退出させられた。学校当局は「AI の写真は見ることなく削除されたと主張し、削除の証拠は提示しなかった」とマニ氏は続けた。
さらに、フランセサ氏がこの状況の処理方法について管理者と話している間、彼女は女性のスクールカウンセラーと話したいと頼んだが、その要求は拒否されたと彼女は主張している。
マニ氏は、学校当局に正式な回答を求めようとしたが、彼女の連絡は「一貫して無視された」と述べた。学校は事件が報告されてから 10 日後に「嫌がらせ、脅迫、いじめ」報告書 (HIB) を発行することになっていたが、そのような報告書はマニ氏にも他の誰にも公開されていない。
「私はまだ調査の終了を待っています」とマニ氏はフォーブス誌に語った。「現時点で校長から最後に連絡があったのは、もっと時間が必要だということでした。私の質問は、あとどれくらいの時間が必要かということです。」
一方で、マニ氏は、学区のサイバーハラスメントポリシーの改訂を提案するために外部の弁護士を雇ったと述べた。同氏は、これらのポリシーはディープフェイク画像の脅威に関する言及がないため、時代遅れだとしている。
「私たちは泣いているのではなく、腹を立てているのです。動揺しているのです」と同氏は述べた。「私たちは闘っています。学校にAIポリシーが導入されるまで、闘い続けるつもりです」。