ハーグ — 人工知能によって生成され、オンラインで配信された児童性的虐待コンテンツに関して、世界的なキャンペーンにより少なくとも25人が逮捕されたと、ユーロポールは金曜日に発表した。
「カンバーランド作戦は、AIによって生成された児童性的虐待コンテンツに関する最初の事件の1つであり、これらの犯罪に対処する国内法がないため、捜査官にとって非常に困難となっている」と、ハーグに拠点を置く欧州警察機関は声明で述べた。
逮捕者の大半は水曜日、デンマーク警察が主導し、EU、オーストラリア、英国、カナダ、ニュージーランドの法執行機関も参加した世界規模の捜査で行われた。ユーロポールによると、米国の法執行機関はこの捜査には参加していない。
この捜査は、昨年11月に同事件の主犯であるデンマーク国籍の男が逮捕されたことに続くものだ。男は自身が制作したAI素材を配布するオンラインプラットフォームを運営していた。
「象徴的なオンライン支払いをすると、世界中のユーザーがパスワードを入手してプラットフォームにアクセスし、虐待されている子供たちを見ることができた」とユーロポールは述べた。
同機関は、オンラインでの児童性的搾取は依然として、欧州連合におけるサイバー犯罪の最も脅威的な兆候の1つであると警告した。
「違法コンテンツの量がますます増えていることに対処している法執行機関にとって、これは引き続き最優先事項の1つである」と述べ、捜査が続くにつれて逮捕者が増えると予想されていると付け加えた。
ユーロポールは、カンバーランド作戦は完全にAIを使用して作成されたコンテンツを共有するプラットフォームと人々を標的にしたと述べたが、AIで操作された「ディープフェイク」画像がオンラインで急増していることも懸念される。これらの画像は、子供を含む実際の人々の画像を使用することが多く、彼らの生活に壊滅的な影響を与える可能性がある。
CBSニュースのジム・アクセルロッドによる12月のレポートによると、クラスメートからそのような虐待の標的となった1人の少女に焦点を当てたレポートによると、2023年には21,000を超えるディープフェイクポルノ画像またはビデオがオンラインにあり、前年比で460％以上増加した。米国やその他の国の議員らがこの問題に対処するための新しい法律制定に追随しようと競い合う中、インターネット上で操作されたコンテンツが急増している。
ほんの数週間前、上院は「TAKE IT DOWN法」と呼ばれる超党派法案を可決した。この法案が成立すれば、「AI生成のNCII（または「ディープフェイク・リベンジポルノ」）を含む「合意のない親密な画像（NCII）の公開」が犯罪となり、ソーシャルメディアや同様のウェブサイトは、被害者からの通知から48時間以内にそのようなコンテンツを削除する手順を実施することが義務付けられる」と、米国上院ウェブサイトの説明には記されている。
現状では、一部のソーシャルメディアプラットフォームは、有名人を描いた偽画像を含む、性的でAIが生成したディープフェイクコンテンツの拡散を取り締まることができないか、または取り締まる意志がないようだ。2月中旬、FacebookとInstagramの所有者であるMetaは、CBSニュースの調査でFacebook上でAI操作によるディープフェイク画像が大量に蔓延していることが判明したことを受けて、有名な女性俳優やアスリートの偽の性的画像12枚以上を削除し たと発表した。
「これは業界全体の課題であり、当社は検出および施行技術の改善に継続的に取り組んでいます」と、Metaの広報担当者であるエリン・ローガン氏は当時CBSニュースに電子メールで送った声明で述べた。