サンフランシスコ市検事局は、ディープフェイクヌードを作成し拡散したとされるウェブサイトを標的にし、それらのサイトをオフラインにして明確なメッセージを送っています。
イボンヌ・メレ首席副検事は、NBCベイエリアに対し、彼女とデイビッド・チウ市検事局が6か月以上前に起こした人工知能に異議を唱えるユニークな訴訟により、ディープフェイクヌードを作成し拡散する12近くのウェブサイトが閉鎖されたと語った。
「私たちが標的にした俳優たちは今やそのビジネスから撤退しており、それはちょっとした勝利のように思えます」とメレ氏は語った。「私たちが標的にしたウェブサイトのうち11は閉鎖され、もはや存在していません。」
メレ氏は、市検事局がこれらの写真がどのように作成され拡散されるかを訴える訴訟を初めて起こした昨年8月にNBCニュースに語った。多くの場合、画像には実際の顔が含まれていますが、AIを使用して偽の体を作成しています。
メレ氏によると、訴訟が最初に提起された当時、これらのウェブサイトには 1 年間で何億ものアクセスがあったという。
訴訟はまだ進行中だが、すでに法的な勝利であることが証明されている。サンフランシスコ初のラテン系首席副市検事であり、この職に就いた女性としては 2 人目であるメレ氏にとって、これは個人的にも意義深い勝利だ。
「私たちは長時間働いています」と彼女は言う。「そして、最終的には、その遺産が何かのためになることを望みます。そうすれば、子どもに『ほら、ママはあなたが小さいときにこれをやっていたんだよ』と言えるのです」
1 年前、ディープフェイクのヌードを拡散し、未成年者を児童ポルノに利用しているウェブサイトと戦う母娘に関する記事を読んだとき、メレ氏の当時 15 歳だった娘のことが頭に浮かんだ。
「彼らは、15歳の子供のヌード画像が世に出回っていることを知っていたが、取り戻すことはできず、誰が作成したかさえ知らなかった」とメレ氏は語った。「個人も、ウェブサイトも、その写真にマークもなかった」
その時、サンフランシスコ市検察局は、カリフォルニア州の不正競争法に基づいて企業を訴える権限を持つ10未満の地方自治体の1つとして関与することを決めた。
「私にとって、政府が市民に応答することは本当に重要であり、このような訴訟は、何かが間違っていること、それが市民に害を及ぼしていることを知っていることを示す手段です」とメレ氏は語った。