ニュージャージー州ウェストフィールド高校の高校生フランチェスカ・マニさんは、2023年10月に人工知能（AI）とディープフェイク技術を使った新たなサイバー犯罪の被害者となった。 14歳の彼女は、学校当局に校長室に呼び出されて初めて事件を知ったと明かした。そこで、学校の男子生徒がAI技術を使って彼女と他の数人の女子生徒のヌード写真を生成したと報じられた。
犯人はInstagramなどのソーシャルメディアサイトに投稿された画像を入手し、生徒たちをヌードモデルのように見せかけたと報じられている。ディープフェイク画像はその後、スナップチャットを通じて子供たちの間で共有された。フランチェスカさんはこのニュースに愕然とし、悲しんだが、泣いたり笑ったりしているクラスメートを見て、怒りがこみ上げ、決意が生まれたのを感じた。
「その時、私は泣くのをやめ、これは許されないことだから怒るべきだと悟った」とフランチェスカはグッドモーニングアメリカ（GMA）に語った。
フランチェスカと母親のドロタ・マニは、他の人に屈辱を与えたくないという思いから、社会から受けた屈辱から変化を求めてロビー活動を行った。
法的および制度的対応
クルーズ上院議員とルミス上院議員がディープフェイクについて話し合う記者会見を開催 - 出典：ゲッティ
これは、AI生成コンテンツに関わる法的状況に関する重要な疑問を浮き彫りにする。ニュージャージー州は未成年者の性的に露骨な描写に関して非常に厳しい法律を制定しているが、AI生成画像のグレーゾーンに関する法律は依然として存在しており、技術的には児童ポルノの従来の解釈には適用されない。ディープフェイク技術とそれがもたらす悪用に関するグレーゾーンを明確に特定するさらなる法律が必要である。
ジョージ・ワシントン大学の法学教授、メアリー・アン・フランクスは GMA に次のように語った。
「加害者が未成年であるという事実は、寛大な処置や、彼らを刑務所に送らないためのある種の試みがあることを意味するかもしれないが、だからといって彼らがまったく罰せられないというわけではない」
事件後、フランチェスカの母親は警察に届け出て学校当局に報告した。子供たちは、後に再入学した 1 人の生徒の一時的な停学を除いて、このような重大な事件に対して何の処分も受けなかった。この説明責任の欠如により、フランチェスカは仲間たちと一緒にいるのが不安で居心地が悪いと感じた。
「私はただとても居心地が悪く、とても怖いです。他の多くの女の子も私と同じ意見です。私たちは彼が廊下を歩いているのが正しいとは思っていません」とフランチェスカは付け加えた。
この事件を受けて、フランチェスカと母親はコミ ュニティの外で闘いを始めた。彼らは州および連邦の議員に AI 技術に関する法律と学校の方針の改訂を求めてロビー活動を行った。 Time によると、彼らの活動は、AI による嫌がらせに対する法的保護の改善、そのような事件に対処する学校の徹底した方針、同意とデジタル プライバシーに関する意識の促進に集中している。
フランチェスカの活動は、同じように絶望感を抱いている多くの若者の心に響いた。彼女は、学校が AI の悪用から十分に保護してくれていないという同じ思いを抱いている世界中の少女たちからメッセージを受け取っている。
「ヌード化」ウェブサイトの増加
イメージ画像 (Pexels/ThisIsEngineering 経由の画像)
この問題は、ユーザーが画像をアップロードすると、その見返りにリアルなヌード バージョンを受け取ることができる、いわゆる「ヌード化」ウェブサイトの急増によってさらに悪化している。これらのサイトは広くアクセス可能であり、米国中の学校での多数の事件に関係している。報告によると、これらのプラットフォームはダーク ウェブに隠されているのではなく、オンラインで公然と宣伝されており、特に未成年者にとって危険である。
「60 Minutes」は、過去20か月間に米国の学校で同様の事例が30件近くあったことを明らかにした。さらに海外でも同様の事例が多数ある。