エリストン・ベリーは昨年10月のある月曜日の朝、衝撃的なテキストメッセージで目を覚ました。友人たちが、彼女が通うテキサスの高校の生徒の間で出回っている自分のヌード写真を見たかと尋ねていた。
1人がスクリーンショットを送ってきた。彼女はショックを受けた。その画像には彼女の顔が写っていたが、彼女の体ではなかった。
後に彼女が知ったことだが、男子のクラスメートが彼女のプライベートなインスタグラムアカウントから少なくとも2枚の写真を盗み出し、人工知能を搭載した脱衣ソフトウェアを使って彼女を裸にしていた。彼女の友人2人も写真操作の被害者だった。
匿名のSnapchatアカ ウントを使用して、少年はフォートワース郊外の小さな町にあるアレド高校の他の生徒と写真を共有した。その日が経つにつれ、彼はベリーの友人グループの他の6人の少女の偽のヌード写真を作成し、共有したとされている。
「こんなことをする人がいるなんて考えたこともなかった」と、現在15歳のベリーさんは言う。「目が覚めて、現実とは思えない気分だった」
全国の10代の少女たちは、この不穏な新しいトレンドの余波に対処している。ベリーさんとその家族は、こうした画像（ディープフェイクとも呼ばれる）が作り出す恥ずかしさや不安を他の人が味わわないように努めている。彼らは、テッド・クルーズ上院議員（共和党、テキサス州）に自分たちの体験を語った。
火曜日、クルーズ氏は、エイミー・クロブシャー上院議員（民主党、ミネソタ州）および超党派の上院議員グループとともに、本物か偽物かを問わず、合意のないヌード画像の公開を犯罪とする法案を提出した。また、ソーシャルメディア企業やその他のウェブサイトには、被害者からの通知を受けてから48時間以内に写真を削除することが義務付けられる。この法案は、この新しい形の嫌がらせを阻止することを目的とした州法案 および連邦法案 の増加に加わるものである。
「焦点が合わなかった」
ベリーは、写真が本物らしく見えると言う。ベリーの写 真の1つは、クルーズ船に立っている彼女の実際の写真からレンダリングされた。彼女の友人のオリジナルの写真のいくつかは、ビーチで撮影された。ヌードバージョンが加工されている唯一の証拠は、被写体がそのような公共の場で服を着ていないはずがないということだ。
新しいAI画像生成ソフトウェアにより、本物らしく見える写真を簡単に作成できる。 Google と Apple は、ヌードを生成するAIアプリをアプリストアから削除している。
ベリーさんや他の偽ヌード被害者は、大学や就職に応募する際にそのような画像が表面化することによる長期的な影響を心配しているという。当面の懸念もある。ベリーさんは、母親と義父に話すのが心配だったという。
「写真が本物ではないのに、両親に認めるのはとてもつらい」と彼女は言う。
両親は彼女を支え、彼女の悪夢を終わらせるためにできることはすべてすると誓った。ベリーさんは数日間学校を休んだが、その金曜日にはバレーボールの練習に参加するために学校に戻らなければならなかった。
「私はこれらの画像のことで頭がいっぱいで、集中できなかった」と彼女は言う。
学校の廊下を歩いているとき、誰が画像を見たのか、そしてその画像が偽物だと信じてくれるかどうか疑問に思った。「恥ずかしくて怖い気持ちになった」と彼女は言う。
学生の行動規範と州法
ベリーさんの母親であるアンナ・マクアダムスさんは、学校 管理者に事件を報告した。管理者は調査を行い、犯人は新入生であることが判明したという。マクアダムスさんによると、その少年は、学生が居残りをするキャンパス内の別の建物で学期を終え、冬休み後に学校を去った。
テキサス州パーカー郡の地方検事ジェフ・スウェイン氏は、少年は少年司法制度内で処罰されたと言う。
ベリーさんは少年に会う必要はなくなったが、学校で完全に関わることは難しかった。
「私は不意を突かれ、とても不安になりました」と彼女は言う。「私は社交的な人間ですが、一歩引いて、より心を閉ざしてしまいました」
アレド独立学区の広報担当者は、学区は郡保安局の捜査に協力し、生徒の行動規範と州法に従って少年を懲戒したと述べた。
「学区は、生徒によるAIの使用の可能性を考慮して、生徒の行動規範を見直しています」と広報担当者は言う。生徒の不正行為に対するより厳しい罰則は州法で定められており、テキサス州のすべての公立学校に適用されるため、これらの法律を改正するのは州の責任だと彼女は付け加えた。
「ディープフェイクに関する事件について、法執行機関の間で多くの混乱があると思います」と地方検事のスウェイン氏は言う。ディープフェイクは2つの州法でカバーされる可能性があり、そのうちの1つは、従来のソフトウェアまたはAI搭載のソフトウェアで操作された児童虐待画像を犯罪とするように更新された。これらの法律は新しいため、施行はまだ進行中だと彼は付け加えた。
TAKE IT DOWN法
私がニュージャージー州ウェストフィールドで同時期に発生した同様の状況について書いた後、マクアダムス氏は偽ヌードの被害者となった別の10代の少女の母親であるドロタ・マニ氏に連絡を取った。
マニ氏は地方議員や連邦議員と話し合い、ジョセフ・モレル下院議員（民主党、ニューヨーク州）に1月に「親密な画像のディープフェイク防止法」を再提出させるのに尽力した。モレル氏の広報担当者によると、この法案には現在50人以上の共同提案者がおり、下院司法委員会での審議を待っているという。
マクアダムス氏はクルーズ氏を含む州および連邦当局者に電話をかけ始めた。彼は最近彼女に電話をかけ直した。火曜日、彼は「ウェブサイトやネットワーク上の技術的ディープフェイクを固定化することで既知の悪用に対処するツール」、通称「TAKE IT DOWN」法案を提出したが、そのとき彼女は娘と一緒にワシントン D.C. にいた。
ベリーの偽ヌード写真がシェアされた後、彼女は数か月間インスタグラムの投稿をすべて削除し、フォロワーを減らした。犯人は前年にインスタグラムの彼女の非公開アカウントをフォローするようリクエストした知人だった。彼女は今ではよく知っている人だけを受け入れると語っている。
ベリーは、この経験で人を信用できなくなり、よりシニカルになったと語る。
「私は何に対しても備えることを学んだ」と彼女は語る。