昨年 10 月、テキサス州の 14 歳のエリストン・ベリーさんは、ある朝 ソーシャル メディア で自分のディープフェイク ヌード画像が出回っているのを発見し、悪意あるサイバー搾取計画によって人生が一変した。
さらに悪いことに、クラスメートの多くがすでにその画像に出くわしていた。
「私はただ普通の日を過ごすつもりだったのですが、友人たちからヌード画像が出回っているという電話やメッセージが何度もかかってきました」と、彼女は水曜日に FOX Business の「Mornings with Maria」で振り返った。
「[ヌード画像は] 学校中、スナップチャット、インスタグラム、 あらゆるソーシャル メディアに出回っていました」と彼女は付け加えた。
テキサス州の 14 歳のティーンエイジャー、エリストン・ベリーさんは、自分のフェイク ヌード画像がソーシャル メディアに出回っているのを発見し、恥ずかしい思いをしたと語った。 (Mornings with Maria/スクリーンショット/Fox News)
ベリーの母親アンナ・マクアダムスさんも、娘が恐怖に震え、涙を流しながら部屋に駆け込んでくるまでは、普通の日になると思っていた。
「娘が部屋に入ってきて写真を見せたとき、私は恥ずかしくて、母親として唖然としました。娘を守ることができなかったのです」と彼女は水曜日に語った。
マクアダムスさんは司会者のマリア・バルティロモさんに、写真は本物に見えたと語った。
クルーズ船のデッキに立つベリーの写真の1枚は、衣服を偽の裸体に置き換えるように加工された。ウォール・ストリート・ジャーナルの報道によると、彼女の友人グループの女の子たちの他の偽のヌードは、オリジナルのビーチの写真を使って生成された。
「彼女がどこにいるか分かりました」とマクアダムスさんは語った。 「母親として、最初の写真がどこにあったかはすぐに分かりましたが…もしそれを知らずに写真だけを見ていたら、本物だと思ったでしょう」
WSJ によると、ベリーさんは後に、男子のクラスメートが彼女のプライベート Instagram アカウントから 2 枚の写真を盗み出し、AI ソフトウェアを使って彼女のヌード画像にすることで、この計画を画策していたことを知った。
「Mornings with Maria」のこの画像は、超党派が支持する「Take it Down Act」の詳細を物語っている。(Mornings with Maria/スクリーンショット/Fox News)
同じ男子生徒が、彼女の友人たちを巻き込んだ事件の背後にもいた。
ベリーさんは、学校でこの出来事が「恥ずかしさと恐怖」を感じさせたと同メディアに語った。出会った生徒たちが画像を見て偽物だと思ったのではないかと考えたからだ。
「みんなに、あれは本物ではなく、自分は本物だと言わなければならないと感じました。私はただ自分が正しいと思うことのために戦っていただけです」と彼女はバーティロモに語った。
AI が飛躍的に成長を続け、労働力、クリエイティブな分野、その他の分野に浸透する中、搾取計画は主要な倫理的課題として浮上している。
議員たちは、これについて何か行動を起こすようプレッシャーを受けている。
テキサス州の共和党議員テッド・クルーズ氏とミネソタ州の民主党議員エイミー・クロブシャー氏は、合意のない親密な画像の公開を犯罪とし、ソーシャルメディアプラットフォームにコンテンツを削除するよう義務付けるなど、「Take it Down Act」を後援する超党派議員の 2 人である。
「これはますます一般的になっている、病的で歪んだパターンです。エリストンのような被害者は何千人もいます」と、スタジオでバーティロモ、ベリー、マクアダムスと座りながらクルーズ氏は語った。
「オンライン上のディープフェイクのうち、最大95％は合意のない親密な画像であり、テクノロジーを使えば…[無害な画像]を撮って写真や動画に変えることができます。テクノロジーがあれば、それが偽物 だとはわかりません。本物だと思うのです。そして、これが[主に女性と10代の少女]を虐待するために使われているパターンです。」
クルーズ氏は、この法案は犯罪者に懲役刑をもたらすことを目指していると述べた。成人に対して犯罪を犯した場合は2年間、被害者が未成年の場合は3年間の懲役刑となる。
また、このような法律はソーシャルメディアプラットフォームに介入して有害な画像を削除する法的義務を与えると強調した。