エリストン・ベリーは、AIについて、学生が試験でカンニングをするためにそれを使用することは許されていないという漠然とした理解以外、何も考えていなかった。
彼女はテキサス州の高校1年生になり、学生生活に身を投じていたが、10月2日の朝、エリストンはその技術との恐ろしい出会いを経験した。彼女のインスタグラムアカウントから撮影された写真がAIソフトウェアにかけられて彼女の裸にされ、その偽の画像がスナップチャットでクラスメートの間で共有されていたのだ。
「私は完全にショックを受けました。頭の中に何も考えが浮かばず、ただ恐怖を感じました」と彼女は言う。彼女は14歳だった。
当時無名だった人物が、他の女子クラスメートの偽の画像も共有し ていた。その偽の画像は、実際の写真をアップロードしてAIを使用して、その人物が裸の姿でどのように見えるかを分析できる、簡単にアクセスできるオンラインツールを使っていた。ソフトウェアは、AI が生成した裸の体に人物の頭部を載せて、新しい画像を作成する。
過去 1 年間、米国中の学校は、この新たな形態の性的搾取と戦うことを余儀なくされてきたが、これと戦うための明確な法的枠組みはなかった。
「それはとてもリアルでした」とエリストンの母親、アンナ・マクアダムスは言う。「それがとても衝撃的でした。「ここにいるのは私の娘です。私は彼女を知っており、写真も、どこで撮影されたかも知っています。怒り以外に言葉がありませんでした。どうしてこんなことができるのか」
マクアダムスはその後、彼女が「ママベアモード」と呼ぶモードに入った。彼女は、標的となった他の少女たちの両親と連絡を取り、その日の朝、アレド高校の警察と職員との面会を手配した。その時、彼女はその日 2 度目のショックを受けた。
「彼らはこれをどうしたらいいのかわからなかった」と彼女は言う。「生徒の行動規範には何も書かれていないのです。そして法律上も、何もないのです」
この問題はしばしば報告されないため、その規模を数値化することは難しいが、学校で共有されるAIヌードの事例は、テキサス、ニュージャージー、ワシントンDC、フロリダ、カリフォルニア、ワシントン州で記録されている。
「この問題を抱えている学校は少なくとも6校あると聞いていますが、それは氷山の一角にすぎません」と、ワシントンのアメリカン大学の分極化と過激主義の研究イノベーションラボ（Peril）のエグゼクティブディレクター、ブライアン・ヒューズ氏は言う。「この完全に規制されていない領域を誰も把握しておらず、規制当局と立法者は子供たちを守る責任を本当に怠っています」と彼は言う。
AIの能力がリリースによって飛躍的に進歩して以来、 2022年にChatGPTが登場して以来、この技術が持つ露骨な画像を生成する能力が世界中で悪用されており、政治家や俳優など多くの著名人が標的にされている。英国では、チャンネル4ニュースの調査で、いわゆるディープフェイク画像の作成者の被害者が255人いることが判明した。
レイプ・虐待・近親相姦全国ネットワークの公共政策担当副社長、ステファン・タークハイマー氏は、子供の改変された露骨な画像が商業市場に流入する可能性があることを特に懸念しているという。「誰かがこれについて何かしなければ、比較的すぐに、これらの画像の商業的搾取に陥る可能性がある」と同氏は言う。
専門家は、画像の作成は特に若い被害者に壊滅的な影響を与える可能性があると警告している。 「不安、憂鬱、恥ずかしさを感じ、学校に行きたがらなくなり、課外活動をやめてしまうことも多い」とタークハイマー氏は言い、その影響は一生続く可能性があると付け加えた。「家の外で仕事に就くのが怖い子もいる。これは本当に一生の問題だ。さらに、画像が自分の名前や身元と関連づけられると嫌がらせを受けるケースもある。最悪の場合、自殺につながることもある」
学校が加害者に対して行動を起こすのを躊躇することが多すぎると同氏は言う。「現在、アメリカの学校での基本的な反応は、ディープフェイクを作成した人物を実際に保護し、ディープフェイクの被害者を犠牲にすることだ」
エリストン・ベリーと母親はまさにその経験をした。ヌード画像がシェアされた翌日、それを配布したスナップチャットアカウントの人物は「派手に出かける」や「女の子を台無しにする」といった不穏なメッセージを投稿し始め、親たちに女の子を学校に行かせないように促した。
翌日、犯人は学校のWiFiを使って投稿したことで特定された。彼は未成年者への有害資料配布の罪で少年として起訴された。両親は学校がほとんど行動を起こさず、彼を退去させるのは彼らの責任だと主張している。
「[学校の]対応は『まあ、私たちには彼を教育し、サポートし、保護する道徳的義務がある』というもので、彼は被害者であり女子生徒ではないかのように扱われました」とマクアダムズ氏は言う。
エリストン氏は、その週の後半に学校に戻ったときの精神状態を「めちゃくちゃ」と表現している。彼女は「みんながこれらの画像を見たのではないかととても不安になり、とても不安になりました」と言う。これまでのところ、学校はメンタルヘルスサポートを提供していない。「その週の後、彼らはそれを忘れてしまったような感じでした。それは私と女子生徒が対処しなければならなかった静かな戦いのようでした」 と彼女は言った。
アレド独立学区の広報担当者は、「アレド独立学区の生徒行動規範と現行の州法に従って、関与した生徒を懲戒処分した」と述べた。同学区は、事件を受けて行動規範を見直していると述べた。
警察と学校の対応がばらばらだったため、エリストンさんと母親は、自身も10代の娘を持つ父親でもある共和党テキサス州上院議員テッド・クルーズ氏にアプローチした。数ヶ月のうちにクルーズ氏は、AIが作成した同意のないヌード写真の公開を犯罪とし、オンラインプラットフォームに48時間以内にそのようなコンテンツを削除するよう義務付ける「Take It Down Act」と呼ばれる超党派法案に協力した。
クルーズ氏と民主党の同僚エイミー・クロブシャー氏は先月、上院で法案を提出し、超党派グループも下院に提出した。6月、クルーズ氏の圧力で、スナップチャットはついにエリストン・ベリーさんの画像を削除したが、彼女はこれを「本当に大きな安堵」と表現している。 「これらのイメージは私の心の中に残っていて、毎日、再び浮かび上がってくるのではないかという恐怖とともに暮らしています」と彼女は言う。
アメリカン大学の危険研究室のヒューズ氏は、学校は男女が恐れや恥を感じることなく同意や性的搾取について話し合う場を確保するためにもリソースを投入する必要があると語る。「これを、子供たちに他人の権利と自立を尊重させるという、より幅広い方法での育成に組み込むことが非常に重要です」と彼は言う。
エリストン・ベリーさんは、彼女に大きな苦痛を与えた若者に驚くべき共感を示している。彼女は彼の動機について全く知らない。「彼 が必要な支援を受けられることを心から願っています」と彼女は言う。