過去18ヶ月間で、オーストラリア国内におけるディープフェイク画像を利用した虐待の報告件数は倍増しており、毎週少なくとも1件の事件がオーストラリアの学校で発生している。
これらの数字は、オーストラリアのeSafetyコミッショナーによって金曜日に明らかにされた。これは、シドニー北部の高校で女子生徒が標的にされていた事件について、ABCが警察の捜査を暴露したことを受けてのものだ。
ジュリー・インマン・グラントコミッショナーは、オンライングループにおけるデジタル加工されたわいせつな画像の流布について、捜査官がニューサウスウェールズ州警察およびニューサウスウェールズ州教育省と協議中であることを確認した。
インマン・グラント氏はABCの取材に対し、「学校向けにディープフェイク画像を利用した虐待事件管理ツールを導入しました。これにより、学校はいつ警察に相談すべきか、そしていつコンテンツを削除してもらうために私たちに相談すべきかを把握できます」と語った。
ABCは、水曜日の夕方、この学校の数人の家族がイーストウッド警察署に出頭したと把握しています。
インマン・グラント氏は、学校内で発生した事件の件数は、警察が受けている通報件数全体のごく一部に過ぎないと述べました。
「オーストラリアの学校では、ディープフェイク画像を使った虐待事件が少なくとも週に1件は発生しています。
＞これは本当に憂慮すべき事態です。これは、オンライン上での潜在的な危害をまさに強化するものです。」
彼女は、OpenAIのSoraが最近リリースされたことを受けて、これは氷山の一角に過ぎないと警告しました。
「SoraはAIが生成するソーシャルメディアアプリで、他人の画像を集めて、ほんの数秒で超リアルなディープフェイク動画を作成できます」と彼女は述べました。
米国におけるディープフェイク急増による世界への影響
コルム・ギャノン氏は、国際行方不明・搾取児童センターの最高経営責任者です。同氏は、この問題はオーストラリアだけでなく、米国や世界中で拡大していると述べました。
ソーシャルメディアプラットフォームからの報告は、米国における懸念すべき傾向を明らかにしていると彼は述べました。
「世界中の子供たちに実際に影響を与えているAI生成コンテンツとディープフェイクは、1,325%増加しています」
同氏は述べました。
「この増加は、連邦政府が法案を可決するほど深刻です。」
「ニューサウスウェールズ州政府は現在、ニューサウスウェールズ州議会で法案を可決しており、他の州や準州でも児童への被害に対抗するための法律が可決されています。」
インマン・グラント氏は、オーストラリアがこのトレンドへの対応において主導的な役割を果たしており、国際的な規制実施について協議を続けていると述べた。
「本日、私たちはいくつかの『ヌード化』サービスに対して措置を講じます。今回の件は、オーストラリアで少なくとも10万人が使用している、おそらく最も人気のある脱衣アプリのいくつかを開発している企業に対してです」とグラント氏は述べた。
インマン・グラント氏は、英国の姉妹機関であるオフコム（情報通信技術庁）と協力し、この種のディープフェイク画像をプラットフォームから削除または排除する成功率は98%であると述べた。
女子生徒は「自分にも被害が及ぶのではないかと恐れている」
ニューサウスウェールズ州女性安全コミッショナーのハンナ・トンキン氏は、標的にされることを恐れる女子高校生と話し合ったと述べた。
「多くの人が友人に同じようなことが起きるのを見て、自分にも起きるのではないかと本当に怖がっています」とトンキン博士は述べた。
彼女は、「『ヌード化』アプリは女性を標的にし、人間性を奪い、本質的に貶めるように設計された『忌まわしいテクノロジー』」と述べた。
＞「こうした事件は壊滅的な影響を与える可能性があり 、特に圧倒的に標的となっている女性や少女に深刻な影響を与えます。」
ニューサウスウェールズ州のコートニー・フーソス教育大臣代理は、この問題について建設的な話し合いを行ったと述べた。
フーソス大臣は、「生徒たち、そして残念ながら一部の教師にとって、この惨劇に対処するために協力する必要があります」と述べた。
彼女は、ニューサウスウェールズ州教育省が現在、eSafetyコミッショナーと協力して、インターネットとAIを適切に使用する方法を学生に教えるためのデジタルリテラシー教育を開発していると述べた。