2023年10月、ノーステキサスの高校生エリストン・ベリーのホームカミングパーティーの翌朝、彼女はあるメールを受け取りました。彼女のヌード画像が学校中に拡散されているというのです。
しかし、その画像は本物ではありませんでした。クラスメートの一人が人工知能（AI）を使ってディープフェイクを作成し、ベリーのインスタグラムの写真にヌード画像を合成していたのです。当時、彼女は14歳でした。
「その朝目覚めた時、まるで人生がひっくり返ったようでした」と、現在15歳になったベリーは言います。「私は写真以上の存在です。で も、あの瞬間、人々が見ているのは写真だけだと感じていました。」
メンタルヘルスとサイバーセキュリティの専門家によると、ベリーが経験したことは、ますます10代の若者にとって当たり前のことになっているそうです。
子供のオンライン安全に焦点を当てた非営利団体Thornの最新の報告書によると、13歳から17歳までの8人に1人が、ディープフェイクヌードの被害を受けた人を個人的に知っているそうです。報告書によると、ディープフェイクヌード技術が10代の若者にとってますます利用しやすくなっていることが明らかになりました。AIコンテンツは実際の画像と区別がつかないことが多く、10代の少女や女性を不当に標的とした虐待や嫌がらせの手段として利用されています。
ディープフェイクを使ったいじめは、依然としていじめです
最初の画像は月曜日に拡散され、火曜日までにさらに拡散しました。ある男子生徒が他の8人の女子生徒のディープフェイク画像を作成し、匿名のSnapchatアカウントを使って拡散したとベリー氏は言います。
事件は学校の敷地外で発生し、警察官が従うべき対策も確立されていませんでした。そのため、少女たちとその家族は何ヶ月もの間、犯人が誰なのか分からずにいました。被害を受けた少女のうち3人は転校したとベリー氏は振り返ります。
ベリー氏は毎日、授業前やバレーボールの練習に行く途中で、見知らぬいじめっ子に遭遇するのではないかと不安を抱えながら学校に通っていました。彼女は普段、廊下で友達とハイタッチしたり、休み時間に友達と近況を報告し合ったりするような生徒だったが、事件後の数ヶ月間は、自分の部屋から出たがらなくなった。
「娘の精神的な苦痛と性格の変化は、本当に辛かった」と、ベリーの母親であるアンナ・マクアダムスは語る。彼女は、娘が明るく外向的な性格から内向的な性格へと変わっていくのを見守ってきた。
レイプ・虐待・近親相姦全国ネットワーク（RAINN）の広報担当副社長、ジェニファー・シモンズ・カレバ氏は、テクノロジーを駆使した虐待の影響は、従来の性的暴行事件と似ていると指摘する。恥、罪悪感、報復への恐怖、そして長期的な精神的健康への影響などだ。
しかし、テクノロジーを駆使した搾取の性質上、虐待は蔓延しているように感じさせる。ベリーと彼女の友達の写真が何度共有されたのか、あるいは本当に共有が止まったのかどうかさえ分からない。
「被害は継続します。なぜなら、画像が話題になり、友人から『オンラインで会ったよ』と電話がかかってくるたびに、それは新たな罪であり、新たな恥辱となるからです」と、RAINNの公共政策担当副社長、ステファン・タークハイマー氏は述べています。
かなりの数のティーンエイジャーが、AIヌードの被害者を知っている
Thornが1,200人の若者を対象に行った調査によると、13歳から17歳のティーンエイジャーの8人に1人が、ディープフェイクヌードの直接の標的となった人を知っており、17人に1人が直接の被害者であると回答しました。
「この報告書から得られる大きな教訓の一つは、このような行為は許されないものであり、標的となった人にとって有害であるという認識を社会全体で早急に共有する必要があるということです」と、Thornの調査・インサイト担当副社長、メリッサ・ストロベル氏は述べています。 「私たちは、AI技術が使用されたかどうかに関わらず、合意のない露骨な画像の再共有と、それがもたらす結果に焦点を当てるべきです。
ベリーさんは両親に出来事を話しましたが、多くのティーンエイジャーは沈黙の中で苦しんでいます。ソーン氏の調査では、回答者の約半数が何らかの形でオフラインでのサポートを求め、被害者の34%が親や保護者に話したと回答しています。
「私はまだ14歳の少女でしたが、誰もが私の体を見ています。たとえそれが自分の体でなくても、実際の写真と同じ恥と罪悪感を感じています」とベリーさんは言います。
この調査結果は、生成AIが児童性的虐待資料の作成に関与しているという、より大きな傾向の一部です。NCMECの被搾取児童部門のエグゼクティブディレクター、ローレン・コフレン氏によると、NCMECは2023年春に生成AIの内部調査を開始しました。生成AIに関する報告は、虐待的な性的コンテンツの作成に利用されているAIは、2023年の4,700台から2024年には67,000台に増加しました。
10代は、身体イメージと自尊心の発達において重要な時期です
中学生と高校生の時期は、思春期を通して自立心、抽象的な意思決定能力、そして大きな身体的変化が発達し始める時期です。
セックスセラピーと感情知能を専門とする、結婚・家族心理療法士の資格を持つシャディーン・フランシス氏によると、10代の若者は、より大きな仲間集団の中で自分がどのような人間であるかを理解し始めるために、家族や友人に頼るようになります。
「特にトラウマは自分自身や他人への信頼感を揺 るがすことを考えると、この時期にトラウマを経験することは、若者の自己意識を本当に揺るがす可能性があります」とフランシス氏は言います。
幼い頃に虐待を経験すると、10代の若者が健全な人間関係を築き、将来大切な人と信頼関係を築く能力に長期的な影響を及ぼします。被害者は不安やうつ病を発症する可能性があります。そして心的外傷後ストレス障害（PTSD）も患っていました。
ベリーさんは、これらの画像が偽物だと気づかれないのではないかと心配していました。将来、大学や就職活動の際に再び問題になるかもしれないと懸念していました。彼女によると、最悪だったのは、これらの画像が彼女の人格を貶め、彼女の同意なしに性的に描写されたことです。彼女は敬虔なクリスチャンとして育ち、両親からヌード画像を送ってはいけないと教えられたそうです。
「『ああ、彼女はこういう人だったんだ』と思われたくなかったんです」とベリーさんは言います。「彼は私の純真さを奪い、これらの画像を送りつけ、私の無防備で弱い姿を皆に見せつけたのです。」
彼女は体型を隠すため、スウェットシャツとスウェットパンツを着て学校に通っていました。写真で見るような目で見られたくなかったからです。
ディープフェイクが急増する中、リソースと法整備は遅れている
ディープフェイクが初めて世間の注目を集めたのは、2018年2月にRedditがr/deepfakesというサブレディットを凍結した時でした。r/deepfakesは、ユーザーが偽のポルノ写真や動画を作成する、フォロワー9万人を抱える脅威的なサブレディットでした。当時は、ディープフェイクを作成する には数千枚の画像が必要になることが多く、著名人が主な標的でした。今日では、数枚の写真だけでディープフェイクを作成することも可能です。
2024年1月には、テイラー・スウィフトがフットボールの試合に出場している姿を描いた性的に露骨な偽画像がユーザーによって作成されました。性暴力リソースセンターによると、これらの画像は明らかにXのプラットフォームのポリシーに違反しているにもかかわらず、「野火」のように拡散しました。
マクアダムズさんは、娘が被害に遭ったことはショックだったと言います。「私が聞いた話は… 「子供ではなく、映画スターやハリウッドの誰かのものだと思っていました」と彼女は言う。「何が起こりうるのか、全く知らされていませんでした。」
ベリーの学校で被害を受けた少女たちの両親は、2024年1月にタイトルIXに基づく調査を申し立て、加害者は有害資料の配布でクラスAの軽犯罪で起訴された。RAINNのタークハイマー氏によると、現在、オンラインプラットフォームに合意のない性的な画像を削除することを義務付ける連邦法はなく、保護者や学校はディープフェイク事件への対処方法に関するリソースを欠いているという。
マクアダムズ氏は8ヶ月以上もの間、Snapchatに画像を削除させることができなかった。テキサス州選出の共和党上院議員テッド・クルーズ氏の事務所がSnapchatに直接連絡を取ってようやく写真が削除されたと彼女は言う。
ベリー氏は、AI生成のディープフェイクを含む「合意のない性的搾取画像」の公開を犯罪とする「Take it Down Act（削除法案）」の成立を議員に働きかけている一人だ。これにはAIソフトウェ アで作成された「デジタル偽造」も含まれ、テクノロジープラットフォームは有効なリクエストを受け取ってから48時間以内に報告されたコンテンツを削除することが義務付けられています。
メラニア・トランプ米大統領夫人は3月3日、この法律を支持し、上院で全会一致で可決されました。大統領夫人の隣に座っていたベリー氏は、議員たちに自身の体験を語りました。
「10代の若者、特に少女たちが、ディープフェイクのような悪質なオンラインコンテンツによってもたらされる圧倒的な困難に苦しんでいるのを見るのは、胸が張り裂ける思いです」とトランプ氏は述べました。
10代の若者と保護者が知っておくべきこと
コフレン氏は、性的画像を作成する捕食者は目新しいものではないが、新しいディープフェイク技術の「ワイルド・ワイルド・ウェスト」によって、コンテンツの作成が容易になり、検出が困難になっていると述べています。
ディープフェイクヌードの被害に遭った場合は、NCMECのサイバーチップライン（report.cybertip.org）を利用するか、1-800-843-5678に電話することで当局に通報してください。専門家は次のように述べています。問題が起きたプラットフォームは削除しないことが重要です。証拠として役立つ可能性があります。
ディープフェイクについて話し合うことは、画像作成の重大性とそれによって被害を受ける可能性の両方について、親が子どもに同意や従来の性暴力について話すのと同じように行うべきです。
マクアダムスさんは、ディープフェイク画像について知るのに「遅れをとっていた」と語りますが、娘が安心して相談してく れたことに感謝し、他のティーンエイジャーにも、もし自分に同じようなことが起こったら同じようにするように促しました。
「子どもたちにこのことについて話し合ってください。恐れることなく、親に相談できることを知ってもらう必要があります」とマクアダムスさんは言います。