アンナ・マクアダムスさんは、15歳の娘エリストン・ベリーさんのオンライン生活を常に注意深く見守ってきた。そのため、15か月前の月曜日の朝、テキサス州アレドで行われたホームカミングの翌朝に起きた出来事を受け入れるのは難しかった。
クラスメートがエリストンさんのインスタグラムから写真を撮り、それを人工知能プログラムにかけ、ドレスを脱がせたように見せかけ、デジタル加工した画像をスナップチャットで拡散した。
「娘は泣きながら寝室に入ってきて、『ママ、今何が起こったか信じられないよ』と言っ ていた」とマクアダムスさんは語った。
昨年、オンライン上には2万1000本以上のディープフェイクポルノ動画があり、前年比で460%以上増加した。操作されたコンテンツはインターネット上で 増殖中 で、ウェブサイトは不穏な宣伝を行っている。たとえば、あるサービスでは「服を脱がせてくれる人はいますか?」と尋ねている。
「PSAT のテストとバレーボールの試合があった」とエリストンは言う。「私が集中して心配する必要のある最後のことは、私の偽のヌードが学校中に出回っていることだ。それらの画像は 9 か月間 Snapchat にアップされ、流れていた。」
サンフランシスコでは、首席副市検事のイボンヌ・メアがエリストンと似た話を聞き始めていた。それは身につまされる話だった。
「私の娘が被害に遭う可能性は十分あった」とメアは言う。
サンフランシスコ市検事局は現在、人工知能を使って大人や子供の露骨でない写真をポルノに変える「ディープフェイクヌード」を作成する16のウェブサイトの所有者を訴えている。
「この訴訟は技術に関するものではありません。AIに関するものでもありません。性的虐待です」とメア氏は述べた。
訴訟によると、これらの16のサイトは今年最初の6か月だけで2億回のアクセスがあった。
市検事のデビッド・チウ氏は、訴訟の対象となっている16のサ イトはほんの始まりに過ぎないと言う。
「私たちは少なくとも90のこれらのウェブサイトを認識しています。ですから、これは大きな世界であり、阻止する必要があります」とチウ氏は述べた。
共和党のテキサス州上院議員テッド・クルーズ氏は、民主党のミネソタ州上院議員エイミー・クロチュバー氏とともに、別の角度から攻撃する法案を共同提案している。Take It Down Actは、ソーシャルメディア企業やウェブサイトに対し、AIで作成された合意のないポルノ画像を削除するよう義務付けるものだ。
「この法案は、あらゆるテクノロジープラットフォームに法的義務を課す。プラットフォームを削除し、すぐに削除しなければならない」とクルーズ氏は述べた。
この法案は今月上院を通過し、現在は下院での採決を待っている、より大規模な政府資金法案に添付されている。
スナップの広報担当者は声明でCBSニュースにこう語った。「私たちはコミュニティの安全と幸福を深く気にかけています。未成年者を含むヌード画像を共有することは、それが本物かAI生成かに関わらず、コミュニティガイドラインの明らかな違反です。私たちはこの種のコンテンツを報告するための効率的なメカニズムを持っています。だからこそ、懸念が無視されたと感じた家族の話を聞いて非常に落胆しています。私たちはそのようなコンテンツに対してゼロトレランスポリシーをとっており、最新の透明性レポートに示されて いるように、報告されたらすぐに対処します。」
エリストン氏は、今は現在に焦点を当てており、議会に法案を可決するよう促していると述べた。
「私は過去に戻って彼がしたことをやり直すことはできませんが、代わりに、他の人にこのようなことが起きないようにすることはできます」とエリストン氏は語った。