「刺激的なAIチャット」を謳うプラットフォームが、約200万枚の写真と動画を公開した。その多くは一般人のものだったと404 Mediaの報道。
404 Mediaによると、エロティックなチャットボット兼AI画像生成ツールであるSecret Desiresは、写真、女性の名前、勤務先や大学などの個人情報が保存されたクラウドストレージコンテナを無防備な状態にしたという。
この「大規模流出」は、生成AIツールを用いて無害な写真を合意のない露骨なディープフェイクに変換する最新の事例である。
写真や動画の中には、実在のインフルエンサー、著名人、そして無名の女性から撮影されたものもあった。後者には、Snapchatのスクリーンショットや少なくとも1枚の卒業アルバムの写真が含まれている。公開されたメディアの中には、現在では廃止された「フェイススワップ」機能で作成されたものなど、ユーザーが作成したAI画像が含まれていました。この機能は、Secret Desiresが今年初めに削除しました。
Character.AI やReplikaと同様に、Secret DesiresではユーザーがAIペルソナを作成し、チャットすることができます。 Character.AIではポルノコンテンツは許可されていません（一部のReplikaユーザーのみ許可されています）が、Secret Desiresはクイックスタートガイドで「無限の親密さとつながりを提供する」と述べています。
404 Mediaの調査によると、脆弱なストレージコンテナで見つかったAI生成メディアは、ほとんどが露骨な内容でした。ファイル名の一部には「17歳」などの用語が含まれていました。
同社は404 Mediaのコメント要請に応じなかったが、ファイルへのアクセスは同メディアが連絡してから約1時間後に停止した。
長年にわたり、女性や少女たちはAI生成コンテンツである露骨なディープフェイクの被害者となってきた。多くのディープフェイクは、ポルノ動画に女性の肖像を「顔スワップ」したものである。これはテイラー・スウィフトのような有名人だけでなく、有名でない女性にも当てはまる。少女にも同様のことが起こり、オンライン児童性的虐待コンテンツが生み出されている。
今年、議会はディープフェイク画像に対抗するため、Take It Down Actを可決しました。この法律は物議を醸し、複数の言論の自由擁護団体が、合意に基づく露骨なコンテンツや政治的発言に対して武器として利用できると主張しています。