2月、ビバリービスタ中学校の生徒が、クラスメートの偽のヌード写真を作成したとしてビバリーヒルズ警察の捜査を受けた。学校と学区の職員は、「AI生成ヌード写真」を認識していると表明した。
ディープフェイクは、実在または非実在の人物を描写した人工知能生成画像、動画、音声クリップである。 AI が生成したこれらの画像は、特に有名人に関する偽情報を広めるために使用されています。
テキサス州アレドの 15 歳の少女、エリストン ベリーは、ソーシャルメディアに自分と友人の人工ヌード写真が投稿されているのを発見しました。「目が覚めると、友人から私の画像が回っているという大量のテキストメッセージが届いていました」とエリストンは述べています。
近年、若者の間でディープフェイクヌードが増加しており、憂慮すべき問題となっています。全国各地で、いじめの手段として AI を使用し、仲間のために偽の性的コンテンツを作成するティーンエイジャーに関する事件が数多く発生しています 。 「とてもリアルでした。児童ポルノです」とエリストンさんの母親、アンナ・マクアダムスさんはWFAAのインタビューで語った。(https://www.wfaa.com/article/news/local/north-texas-girl-victimized-with-deepfake-nudes-pushes-for-federal-law/287-7cf49849-1b27-4a21-864c-d69cf1644e9c) 「私たちは本当に彼女の面倒を見ることができませんでした。私たちはその瞬間、無力でした...その初日から2日目にかけて、写真がどんどん出てきました。」
偽の性的コンテンツは、ディープフェイクの被害者の90%を占める若い女の子に不釣り合いなほどの害を与えています。ディープフェイクは歴史的に疎外されたグループをターゲットにすることもできます。ニューヨークの学生が、校長が人種差別的な言葉を叫び、有色人種の生徒を傷つけると脅す人工的な動画を作成しました。評判やプライバシーの侵害は、生徒の精神衛生に深刻な問題を引き起こし、他人や学校環境で不安を感じさせる可能性があります。アイデンティティに基づく攻撃は、生徒に屈辱感と自分から切り離された感覚を与えます。
ディープフェイク画像による嫌がらせに対処するために、一部の州で規制が実施されています。
6月、テキサス州上院議員テッド・クルーズは、ウェブサイトやネットワーク上の技術的ディープフェイクを固定化することにより既知の悪用に対処するためのツール（Take It Down）法案を提出しました。この法案は、リアルで人工的なポルノ画像の公開を違法としています。ミシシッピ州、ルイジアナ州、サウスダコタ州、ニューメキシコ州を含む他の州sも、リベンジポルノを廃止する法案を可決した。
2019年、議会は米国のテクノロジー企業にデジタル偽造を報告することを義務付けるディープフェイク報告法を可決した。下院はまた、ディープフェイクの被害者に役立つリソースを提供することを目的としたディープフェイク責任法案も導入しました。人工画像の影響を軽減するための他の連邦法案も可決されていますが、ディープフェイクを禁止または規制する正式な連邦法はありません。
ディープフェイクポルノの問題が効率的に規制されるまで、10代の若者は新しい形のネットいじめの危険にさらされ、被害者は経験によって傷ついています。
「私は新入生で、まだ14歳でした」とエリストンさんは言う。「今でも、これらの画像が再び表面化するのではないかと不安です。」