児童虐待慈善団体によると、小児性愛者は、より過激な内容を脅迫するために、人工知能を使って子供のヌード画像を作成するよう促されている。
インターネット監視財団（IWF）は、ダークウェブで見つかったマニュアルには、犯罪者に「ヌード化」ツールを使用して子供が送った下着の写真から衣服を取り除くよう促すセクションが 含まれていたと述べた。操作された画像は、子供に対してより露骨な内容を送るよう脅迫するために使用される可能性があるとIWFは述べた。
「これは、加害者がこれらの目的でAI技術を使用するよう互いに助言し、奨励していることを示す初めての証拠です」とIWFは述べた。
オンラインで子供の性的虐待コンテンツを見つけて削除するこの慈善団体は、被害者が操作されて自分の露骨な画像を送信し、金銭を渡さなければその画像を公開すると脅される恐喝事件が増加していると昨年警告した。また、同紙は、AIが「驚くほどリアルな」虐待コンテンツの作成に使用された最初の例も指摘した。
200ページ近くにわたるオンラインマニュアルの匿名の著者は、13歳の少女を「脅迫して」ヌード画像をオンラインで送信させることに成功したと自慢している。IWFは、この文書が英国の国家犯罪庁に渡されたと述べた。
先月、ガーディアン紙は、労働党が、ユーザーが裸の人物画像を作成できるヌード化ツールの禁止を検討中と報じた。
IWFはまた、2023年は「記録上最も過激な年」だったと述べている。年次報告書によると、同組織は昨年、児童性的虐待を含むウェブページを27万5000件以上発見した。これはIWFが記録した中で最も多い数で、レイプ、サディズム、獣姦など最も過激な画像を含む「カテゴリーA」のコンテンツが過去最多だった。IWFによると、カテゴリーAのコンテンツを含むページは6万2000件以上で、 前年の5万1000ページに比べて増加している。
IWFは、被害者が操作または脅迫されて自分への虐待を録画させられる、3歳から6歳の児童が撮影した、児童性的虐待の自己生成画像2401枚を発見した。アナリストらは、寝室や台所など家庭内で虐待が行われているのを目撃したと述べた。
IWFの最高責任者スージー・ハーグリーブス氏は、子供を操ろうとする日和見主義の犯罪者は「遠い脅威ではない」と述べた。同氏は「6歳未満の子供がこのように標的にされているのであれば、今から年齢に応じた会話をして、危険を見分ける方法を子供たちに確実に知ってもらう必要がある」と述べた。
ハーグリーブス氏は、昨年法律となり、ソーシャルメディア企業に子供を守るための注意義務を課しているオンライン安全法は「機能する必要がある」と付け加えた。
トム・トゥーゲントハット安全保障相は、親は子供にソーシャルメディアの使用について話すべきだと述べた。「安全だと思い込んでいるプラットフォームがリスクをもたらす可能性がある」と同相は述べ、テクノロジー企業は虐待を防ぐためにより強力な安全策を導入すべきだと付け加えた。
通信規制当局オブコムが先週発表した調査によると、3～4歳児の4分の1が携帯電話を所有しており、13歳未満の半数がソーシャルメディアを利用している。政府は今後数週間以内に協議を開始する準備を進めており、その中には16歳未満へのスマートフォンの販売禁止やソーシャルメディアサイトの最低年齢を13歳から16歳に引き上げる提案も含ま れる。