AI が生成した実際の成人および未成年者の同意のない露骨な画像は計り知れない害を及ぼし、州法および連邦法に違反しています
サンフランシスコ (2024 年 8 月 15 日) --- サンフランシスコ市検事の David Chiu 氏は本日、AI が生成した同意のないポルノを作成および配布する世界最大級の Web サイトのいくつかに対して、初めての訴訟を起こすと発表しました。同意のないディープフェイク ポルノ画像の急増により、世界中の実際の女性や少女が搾取されています。女性や少女の同意のないヌード画像の作成をユーザーに勧める最もアクセス数の多い Web サイト 16 の所有者に対して提起されたこの訴訟では、Web サイトの所有者と運営者がディープフェイク ポルノ、リベンジ ポルノ、児童ポルノを禁止する州法および連邦法に違反していると主張しています。
「今回の捜査はインターネットの最も暗い隅々にまで及んだ。私は、このような搾取に耐えなければならなかった女性や少女たちのことを心から恐れている」と、市の弁護士デビッド・チウ氏は述べた。「生成AIには大きな可能性が秘められているが、他のすべての新技術と同様に、予期せぬ結果や、新技術を悪用しようとする犯罪者がいる。これはイノベーションではなく、性的虐待であることを私たちは明確に認識しなければならない。これは、社会としてできるだけ早く解決しなければならない大きな多面的な問題だ。AIを使って子供を含む実在の人々を搾取し、虐待する悪質な行為者を取り締まるために、私たち全員が役割を果たす必要がある」
背景
無料で洗練されたオープンソースのAIモデルが利用できるようになったことで、悪質な行為者はこれらのモデルを悪用し、さらにトレーニングして独自の目的のために開発することができた。悪質な行為者は現在、ポルノ画像や児童性的虐待資料でAI画像生成モデルをトレーニングし、実際の特定可能な女性や少女のヌード画像を本人の同意なしに生成するために使用できるようになっている。
この不穏な現象は、カリフォルニア州内外の女性や少女に影響を及ぼし、テイラー・スウィフトやハリウッドセレブから高校生や中学生まで、あらゆる 人々に計り知れない害を及ぼしています。たとえば、2024年2月には、カリフォルニア州の中学校で、16人の8年生のAI生成の同意のないヌード画像が生徒の間で流布されました。
実際の写真とほとんど区別がつかないこれらの画像は、女性や少女を脅迫、いじめ、脅迫、屈辱を与えるために使用されています。連邦捜査局も、同意のないAI生成ポルノを使用した恐喝計画の増加について警告しています。さらに悪いことに、ディープフェイク画像が配布された後、非合意のディープフェイクポルノの被害者は、自分の画像をコントロールする手段や能力をほとんど見つけることができませんでした。
被告は、女性や少女の「脱衣」画像を提供する世界で最もアクセス数の多いウェブサイトのうち16を所有および運営しています。これらのウェブサイトは、実際の人物の服を着た画像をアップロードして、それらの画像のリアルなポルノバージョンを生成するためのユーザーフレンドリーなインターフェイスを提供しています。これらのウェブサイトでは、ヌード画像を生成するためにユーザーにサブスクリプションまたは料金を支払うよう求め、子供や大人の非合意のポルノ画像で利益を得ています。これらのウェブサイトは、2024年の最初の6か月だけで合計2億回以上アクセスされています。
一部のウェブサイトでは、ユーザーが成人の非合意のポルノ画像のみを作成できますが、他のウェブサイトでは、ユーザーが子供の非合意のポルノ画像を作成できます。
ある被告のウェブサイトは、画像の非合意的性質を特に宣伝し、「彼女をデートに連れ出すのに時間を無駄にするなんて想像もつかない。[ウェブサイト]を使えば彼女のヌード写真が手に入るのに」と述べている。
カリフォルニア州民を代表して提起されたこの訴訟は、ディープフェイクポルノ、リベンジポルノ、児童ポルノを禁止する州法および連邦法の違反、ならびにカリフォルニア州の不正競争法違反を主張している。民事訴訟では、被告のウェブサイトの削除と、被告がこの違法行為に関与することを永久に阻止するための差止命令を求めている。また、この訴訟では、民事罰と訴訟費用も求めている。
この訴訟は、サンフランシスコ上級裁判所で*カリフォルニア州民対Sol Ecom, Inc, et al.*の訴訟である。苦情の編集版はこちらでご覧いただけます。
ヒント
同意のないディープフェイクポルノの被害者になった方、または関連情報をお持ちの方は、消費者苦情ウェブポータルまたはホットライン(415)554-3977を通じて市弁護士事務所にご連絡ください。