このレポートには事件 799 に関する詳細が記載されていますが、この事件についても言及しています。
2 月に、ビバリー ビスタ中学校 の生徒が、クラスメートの偽のヌード写真を作成したとしてビバリーヒルズ警察の捜査を受けました。学校と学区の職員は、「AI で生成されたヌード写真」を認識していると表明しました。
ディープフェイク は、実在の人物または存在しない人物を描写した人工知能によって生成された画像、動画、音声クリップです。これらの AI によって生成された画像は、特に有名人に関する誤情報を広めるために使用されます。
テキサス州アレド出身の15歳の少女、エリストン・ベリーさんは、ソーシャルメディアに自分と友人の人工ヌード写真が投稿されているのを発見した。(https://www.wfaa.com/article/news/local/north-texas-girl-victimized-with-deepfake-nudes-pushes-for-federal-law/287-7cf49849-1b27-4a21-864c-d69cf1644e9c) 「目が覚めると、友人から私の写真が回っているという大量のテキストメッセージが届いていました」とエリストンさんは語った。
近年、若者の間でディープフェイクヌードが増えていることが憂慮すべき問題となっている。全国各地で、AI をいじめの道具として使い、仲間のために偽の性的コンテンツを作成するティーンエイジャーの事件が数多く発生している。 「とてもリアルでした。児童ポルノです」とエリストンさんの母親、アンナ・マクアダムスさんはWFAAのインタビューで語った。(https://www.wfaa.com/article/news/local/north-texas-girl-victimized-with-deepfake-nudes-pushes-for-federal-law/287-7cf49849-1b27-4a21-864c-d69cf1644e9c) 「私たちは本当に彼女の面倒を見ることができませんでした。私たちはその瞬間、無力でした...その初日から2日目にかけて、写真がどんどん出てきました。」
偽の性的コンテンツは、ディープフェイクの被害者の90%を占める若い女の子に不釣り合いなほどの害を与えています。ディープフェイクは歴史的に疎外されたグループをターゲットにすることもできます。ニューヨークの学生が、校長が人種差別的な言葉を叫び、有色人種の生徒を傷つけると脅す人工的な動画を作成しました。評判やプライバシーの侵害は、生徒の精神衛生に深刻な問題を引き起こし、他人や学校環境で不安を感じさせる可能性があります。アイデンティティに基づく攻撃は、生徒に屈辱感と自分から切り離された感覚を与えます。
ディープフェイク画像による嫌がらせに対処するために、一部の州で規制が実施されています。
6月、テキサス州上院議員テッド・クルーズは、ウェブサイトやネットワーク上の技術的ディープフェイクを固定化することにより既知の悪用に対処するためのツール（Take It Down）法案を提出しました。この法案は、リアルで人工的なポルノ画像の公開を違法としています。ミシシッピ州、ルイジアナ州、サウスダコタ州、ニューメキシコ州を含む他の州sも、リベンジポルノを廃止する法案を可決した。
2019年、議会は米国のテクノロジー企業にデジタル偽造を報告することを義務付けるディープフェイク報告法を可決した。下院はまた、ディープフェイクの被害者に役立つリソースを提供することを目的としたディープフェイク責任法案も導入しました。人工画像の影響を軽減するための他の連邦法案も可決されていますが、ディープフェイクを禁止または規制する正式な連邦法はありません。
ディープフェイクポルノの問題が効率的に規制されるまで、10代の若者は新しい形のネットいじめの危険にさらされ、被害者は経験によって傷ついています。
「私は新入生で、まだ14歳でした」とエリストンさんは言う。「今でも、これらの画像が再び表面化するのではないかと不安です。」