10代の少年が逮捕され、その後釈放された。これは、地方のビクトリア州にある私立学校の女子生徒約50人の肖像を使用して、「切り取られた」「信じられないほど生々しい」と表現される偽の露骨な画像がソーシャルメディアで流布されたとされる事件であ る。
バッカス・マーシュ・グラマー校の校長アンドリュー・ニール氏はABCに対し、約50人の女子生徒が標的にされたと語った。
ヌード画像は人工知能とソーシャルメディアサイトから取得した女子生徒の顔写真を使用して作成されたようで、その後オンラインで流布された。
「[少女たちは]こんな馬鹿げたことをせずに、勉強したり自分の仕事をしたりできるはずだ」とニール氏はABCに語った。
バッカス・マーシュ・グラマー高校の生徒の親でトラウマセラピストでもあるエミリーという女性は、土曜日の夜、16歳の娘を外泊から迎えに行ったときに写真を見たと語った。
エミリーは、帰宅途中に「吐き気を催した」娘のために車にバケツを置いていたと、水曜日にABCラジオメルボルンに語った。
「娘はとても動揺していて、吐いていました。信じられないほど生々しい光景でした。」
エミリーの即座の反応も「吐き気を催す」ものだった。
「だって、彼らは子供ですから…写真は切り刻まれていて、生々しかったです。それを見た時、私はほとんど吐きそうになりました。」
「50人の少女は多いです。本当に気がかりです。」
被害者のインスタグラムアカウントは非公開だったとエミリーは語った。娘はディープフェイク画像には登場しなかったが、「またこんなことが起きるのだろうか？ と感じています。とてもトラウマになります」。
「対策を講じれば、二度と起きないと、どうしたら安心させることができるでしょうか？」
ケビン・リチャードソン校長代理は 声明で、「バッカス・マーシュ・グラマー校はこの問題を非常に深刻に受け止めており、ビクトリア州警察に連絡しました。
「バッカス・マーシュ・グラマー校の生徒とその家族の幸福は学校にとって最も重要であり、対処中です。影響を受けた生徒全員に、当校の福祉スタッフからサポートを提供しています。」と述べた。
リチャードソン校長は、この件で逮捕された人物について、警察から学校に連絡はなかったと述べた。
ビクトリア州警察によると、バッカス・マーシュから車で約15分のメルトン地区の人物に、6月7日金曜日にオンラインプラットフォーム経由で数枚の画像が送られたと警察に伝えられた。
警察によると、少年は事件に関連して逮捕されたが、さらなる調査のため釈放されたという。
「捜査は継続中だ」と警察は述べた。
これは、メルボルンのチャドストーンにあるカトリックの男子校、サレジオ大学の学生が、女性教師の露骨な画像を人工知能を使って作成したことで退学処分を受けた後のことだ。
連邦政府は6月に、女性に対する暴力と闘うための対策の一環として、ディープフェイクポルノの作成と共有を禁止する法案を導入した。
しかし、国民党の上院議員マット・キャナバン氏は、対処する必要があるより広範な文化的問題があると述べた。
「何らかの理由で、行動基準が少年たちに教えられていないのは、私たちの社会全体の文化的問題 です」と、同氏は水曜日の朝、ナインに語った。
「答えがわかれば良いのですが、ありません。しかし、政府や法律で変えられる問題だとは必ずしも思いません。
「少年たちが大人になって男になり、社会が期待する基準に従って生きるとはどういうことか理解できるよう、私たち全員が協力しなければなりません。」
テクノロジーが少年たちの悪い行動を「加速」させたとカナバン氏は述べた。
ビクトリア州のメアリー・アン・トーマス保健相は、この事件について「深く心を痛めた」と述べた。
「このような行動はまったく忌まわしい。学校は子どもや若者が安全に学べる場所であるべきだ」と同氏は水曜日に述べた。
トーマス保健相は、この事件について具体的にコメントしたくないと述べたが、AIが生成した性的に露骨な画像やソーシャルメディアの危険性に対する「警鐘」となることを願っていると述べた。
「私たちは若者たちと敬意について直接、真剣に話し合う必要がある」と同氏は述べた。
「若者がインターネットやソーシャルメディアを通じてコンテンツにアクセスしていることは明らかです。それが若者の行動に影響を与えていますが、それはコミュニティの期待に沿わないものであり、実際それを超えており、他の若者に実際に危害を加えています。」
ディープフェイクを含む画像ベースの虐待は、eSafetyに報告することができ、eSafetyは「この不快なコンテンツを削除する成功率は90％」と主張しています。