昨年10月、14歳のエリストン・ベリーは悪夢で目覚めた。
この少女の携帯電話には、誰かが彼女の偽のヌード画像をSnapchatやその他のソーシャルメディアプラットフォームで共有したという電話やテキストメッセージが殺到した。
「学校全体に広まったと言われた」と、テキサス州のベリーはFox Newsに語った。 「授業や学校に行くのが本当に怖かった。なぜなら、みんながこれらの画像を見るのではないかという恐怖というだけで、とても不安になったからだ。」
写真はAIによって生成されたもので、いわゆるディープフェイクだ。これらの生成された画像や動画は、近年恐ろしいほど普及している。ディープフェイクは超リアルに見えるように作られており、有名人になりすましたり、偽ポルノを作ったりするのによく使われる。しかし、一般の人々に重大な危害を加えることもある。
現在15歳のベリーは、ディープフェイク画像の将来の被害者を守るために、加害者に対する刑事罰を法律に盛り込むよう議員に求めている。
ベリーは、何が起こったのかを知った後、すぐに両親のところへ行ったとメディアに語った。母親のアンナ・マクアダムスは、画像が偽物だと知っていたとフォックス・ニュースに語った。マクアダムスさんはその後、8か月間にわたりスナップチャットに何度も連絡を取り、写真を削除してもらいました。
ベリーさんのディープフェイクは最終的に削除されましたが、それを配布した同級生はほとんど影響を受けていないとマクアダムスさんはCNNに語りました。
「この少年は、保護観察期間が少しあるだけで、実際の罰は受けていない。そして18歳になれば、彼の記録は抹消され、彼は人生を歩み続ける。そして、何が起こったのか誰も本当に知ることはないだろう」とマクアダムズ氏はCNNに語った。
今週、共和党のテッド・クルーズ上院議員、民主党のエイミー・クロブシャー上院議員、および数人の同僚は、ソーシャルメディア企業に対し、報告を受けてから2日以内にディープフェイクポルノを削除することを義務付ける法案を共同で提出した。
クルーズ氏はフォックス・ニュースに対し、この削除法案は、こうした画像の配布を重罪とするだろうと語った。成人をターゲットにした加害者は最長2年の懲役刑に処せられる可能性があり、子どもをターゲットにした加害者は最長3年の懲役刑に処せられる可能性がある。
クルーズ氏は、ベリー氏に起こったことは「ますます一般的になりつつある、病的で歪んだパターンだ」と述べた。
「[法案]は、被害者や被害者の家族が要求した場合に画像を削除する法的義務を大手テクノロジー企業に課す」とクルーズ氏は述べた。「エリストンの母親は何度も何度もスナップチャットにアクセスしたが、スナップチャットはただ『湖に飛び込め』と言っただけだった。彼らは8か月間無視しただけだ」
スナップチャットの親会社であるスナップ社の広報担当者は、同プラットフォームはポルノを許可しておらず、ディープフェイクやいじめを禁止するポリシーがあると述べた。
母と娘は、法律は将来の被害者を保護するために不可欠であり、ディープフェイクを共有したクラスメイトにもっと深刻な結果をもたらす可能性があったと述べている。
「[この法律]が当時施行されていたら、それらの写真は48時間以内に削除され、彼は3年の懲役刑を受ける可能性がありました...つまり、彼は実際にしたことに対する罰を受けることになります」とマクアダムズ氏はCNNに語った。
写真は現在スナップチャットから削除されているが、削除法が可決されれば再び浮上するのではないかとベリー氏は恐れているという。
「これらの画像はスナップチャットから削除されているので、まだとても怖いですが、だからといって学生の携帯電話にないわけではありません。私は毎日、これらの写真が再び浮上するのではないかと恐れながら生きなければなりませんでした」とベリー氏は語った。 「この法案が可決されれば、これらの画像を持ち出す者は処罰されるという恐怖の中で暮らす必要がなくなります。」
この記事はSnap Inc.からのコメントで更新されました