昨年 10 月、フランチェスカ・マニはニュージャージー州郊外の学校から帰宅し、母親のドロタに衝撃的な知らせを伝えた。
その日の早い時間に、14 歳の彼女は副校長室に呼び出され、ウェストフィールド高校の女子生徒グループと彼女が同級生による標的型虐待の被害者であると知らされた。
彼女や他の生徒の偽のヌード画像が学校中に出回っていた。それらは人工知能によっ て生成されたものだった。
ドロタはこの比較的新しい技術の威力を間接的に知っていたが、画像が簡単に生成されたことに驚いた。
「たった 1 枚の画像で、こんなに早くそれが起こり得るとは思っていませんでした」と彼女は回想する。「ボタンをクリックするだけで、誰にでも、誰にでも起こり得るのです。」
別の家族が最近起こした連邦訴訟によると、ウェストフィールド高校の露骨な画像は、極秘裏に運営されてきた「ClothOff」というアプリを使って作成されたという。
しかし、ガーディアンのポッドキャストシリーズ「Black Box」の一部である6か月間の調査により、このアプリに関係する数人の名前が明らかになり、その起源はベラルーシとロシアに遡る。
10月のあの日の午後のショックが収まると、フランチェスカ・マニは涙を拭い、公に行動を起こすことを決意した。母と娘は教育委員会の対応に不満を抱き、法律が存在しないため、容疑者が刑事責任を問われる可能性は低いことに失望した。
「何かしなくちゃ」とフランチェスカは母親に言った。「こんなことは許されないし、私は被害者にはなりたくない」
それ以来、2人はワシントンに何度も足を運び、先週の一般教書演説にも出席した。2人はケーブルニュースに一緒に出演し、ニュージャージー州とワシントンDCの議員からは、米国で合意のない性的に露骨なディープフェイクの作成者に法的責任を負わせる新しい法律のきっかけとして引用されている。
ウェストフィールドの事件や同様の他の事件は、連邦法と州法の拡大する欠陥を露呈させ、政界の両陣営の議員は、露骨なAIディープフェイクの急速な増加から人々、特に未成年者を保護するのに十分ではないことに同意している。
「こうしたアプリには独特の危険がある」と、全米行方不明・被搾取児童センター（NCMEC）の主任法律顧問ヨタ・ソウラス氏は言う。「非常に短期間で作り出せる被害者の数は膨大だからだ」
NCMECはマニ一家と直接協力し、ウェストフィールド高校で生成された画像がネット上でさらに拡散していないか調べている。
被害者の両親は学校当局からディープフェイクが削除されたと保証されたが、学校側は影響を受けた生徒の数を公表していない。
ウェストフィールド公立学区は、事件を知った直後に調査を開始し、「支援を求める生徒」にカウンセリングを提供したと述べた。
「すべての学区は、いつでもどこでも生徒が利用できる人工知能やその他のテクノロジーの課題と影響に取り組んでいます」と、学区長のレイモンド・ゴンザレス博士は述べ、学区は「生徒を教育し、学校内外でこれらの新しいテクノロジーが責任を持って使用されるようにするための明確なガイドラインを確立する」ことで、将来の事件を防ぐ取り組みを強化し続けていると付け加えた。
クロスオフは、ニュージャージー州の事件で自社のプラットフォームが使用されたことを否定し、競合アプリだった可能性を示唆したが、この主張を裏付ける証拠は示さなかった。
公の場で発言した直後、母と娘は議会での法案、親密な画像のディープフェイク防止法の導入を記念するためワシントンに招待された。
この法案は、AIが生成した画像を共有することを犯罪とすることで、同意のない開示を禁止し、被害者に連邦裁判所で民事訴訟を起こす権利を与えることを目指している。
ドロタ氏は今週、小委員会の「ディープフェイクによる実際の被害への対処」に関する公聴会に出席するため再び国会議事堂を訪れる。一方、一家の選挙区を代表する共和党下院議員トム・キーン・ジュニア氏が提出した別の法案は、AIコンテンツの識別を容易にするためのラベル付けルールを作成することを目指している。
「私が10代だからといって、私の声が力を持たないわけではありません」とフランチェスカ氏はワシントンで法案が発表された際、語った。 「沈黙を守る？それは選択肢ではない」
両法案と上院の対応法案は超党派の支持を得ているが、ジョー・バイデン大統領に対する弾劾調査など党派的な問題に下院が集中していることから、ドロタ・マニ氏は連邦レベルでの立法はまだ初期段階にあることを認識している。
「私はイライラしていますか？いいえ。なぜならそれが私たちの政府であり、常にそのように機能してきたからです」と彼女は語った。「それが私が政治家でない理由です。それがこれが私の最初で最後の選挙運動である理由です。」
それでも、NCMECが管理するデータベースによると、少なくとも米国の5つの州がすでに露骨なディープフェイクの使用を抑制する法律を制定しており、約20の州が法案を提出して いる。
ニュージャージー州では、ウェストフィールド高校での事件を受けて提出された法案が先週金曜日に上院委員会を通過した（超党派の支持を得て）（https://www.njsendems.org/moriarty-corrado-bill-establishing-penalties-for-deepfake-crimes-clears-law-public-safety-committee/）。
1990年代に大学進学のために米国に渡ったポーランド移民のマニさんは、地元に幼稚園を設立し、インテリアデザイン会社を経営する裕福な起業家だ。また、経済的特権が自身の選挙運動にいかに役立ったかについて率直に語り、議会で超党派の称賛を集めている。
親密な画像のディープフェイク防止法案を提出したニューヨーク州下院議員ジョー・モレルの広報担当者は、母と娘は「自分たちのトラウマを、フランチェスカが経験したような痛みをより多くの女性が経験しないようにするための激しい擁護活動に変えた」と述べた。
広報担当者は、ガーディアン紙が最近報じた、クロスオフ アプリに関係する人物が何人か明らかにされたことは、「この卑劣な行為の責任を問うために、刑事罰と民事罰の両方が必要である理由を強調している」と付け加えた。
「ディープフェイクの作成、そしてもちろんそれを利用して利益を得ることを防ぐための強力な抑止策を確立する必要がある」。
しかし、ニュージャージーでの出来事は、米国では決して孤立したものではない。先週、ビバリーヒルズの中学校は、AI で生成されたディープフェイクの露骨な画像を作成して 16 人の 8 年生を犠牲にした 5 人の生徒を退学処分にした。教育委員会の広報担当者は、画像の作成にどのアプリが使用されたかについてはコメントしなかった。
「この新興技術は、あらゆる年齢層の人々がますます利用しやすくなっています」と、ビバリーヒルズ統合学区の学区長マイケル・ブレギー博士は語った。
「私たちはAIのいかなる悪用にも憤慨しており、社会で最も弱い立場にある人々である子供たちを守らなければなりません。」
昨年12月、パインクレスト・コーブ・アカデミーの男子生徒2人が、地元警察が名前を明かしていないアプリを使用してクラスメート数人のヌード画像を生成したとして停学処分を受けた。
また、ワシントン州イサクアでは、14歳の男子生徒が学校行事で撮影した画像を使って数人の女子クラスメートのヌード写真を作成し、後にスナップチャットで共有したとして警察の捜査を受けた。ガーディアン紙が確認した警察の報告書によると、使用されたアプリの名前は明らかにされていない。
マニ氏は、メディアで報道されていない地域を含む、全国各地の多くの場所で親たちから話を聞いたと述べた。
「多くの人が、何が起こったかを公表することに抵抗を感じています」と彼女は述べた。「私の学校と同じように、彼らは何もできないと常に聞かされているからです。」
娘とクラスメートを狙ったとされるアプリの背後にいる人々へのメッセージは何かと尋ねられたマニ氏は、率直にこう答えた。「恥を知れ。彼らはただ金を稼いでいるだけだ。」
しかし、すぐに彼女はキャンペーンの次のステップに方向転換し、最終的にこのようなテクノロジーの繁栄を許したとされるApple、Google、AmazonなどのプラットフォームやPayPal、Amex、Visaなどの金融機関をターゲットにした。
「そうでなければ、幽霊を追いかけるようなものです。」
2024年3月14日に脚注を追加。掲載後、ドロタとフランチェスカ・マニはガーディアン紙に連絡を取り、ジョー・モレル下院議員事務所の発言で「トラウマ」に言及したことは自分たちの経験を正確に表しているとは考えておらず、自分たち自身もその言葉を使うことはないと明確にするよう要請した。