xAIの新しい生成AIツールであるGrok Imagineは、テイラー・スウィフトの露骨なディープフェイクを作成した――しかも、The Vergeによると、特に指示されたわけではないという。Mashableは昨日、Grok Imagineには性的なディープフェイクに関する基本的なガードレールさえ存在しないと報じており、MashableのテストでもThe Vergeと同様の結果が得られた。
The Vergeのジェス・ウェザーベッド氏は、初めてこのツールを使った際にGrok Imagineが「無修正のトップレス動画を吐き出す」ことを発見しました。彼女はボットにスウィフトのトップレスを描写するよう指示したわけではありませんでしたが、Grok Imagineの「スパイシー」モードをオンにしたところ、ボットはスウィフトが服を脱ぎ捨て、Tバック姿で踊り出す動画を大量に生成しました。
ウェザーベッド氏が指摘したように、Grok Imagineはリクエストに応じてフルヌードや部分ヌードを生成することはなく、代わりに空白の四角形を生成しました。NSFWコンテンツを生成するプリセットである「スパイシー」モードは、必ずしもヌードを生成するわけではありませんが、いくつかの動画でスウィフトが「服の大部分を脱ぎ捨てる」様子が映し出されていました。
イーロン・マスクのXがテイラー・スウィフトのディープフェイクと関連付けられるのは今回が初めてではない。2024年1月には、AIが生成したスウィフトを描いたポルノ画像がXで拡散され、批判を浴びた。これは、Xが合意のないヌードの投稿を明示的に禁止し、意図的にユーザーを欺く「合成、操作、または文脈から外れたメディア」を禁止しているにもかかわらず起こった。あるいは、現実を描写していると主張すること。
xAI のポリシーも同様に、「ポルノ的な方法で人物の肖像を描写すること」を禁止しています。また、MashableのTimothy Beck Werth氏が昨日報じたように、Grok Imagineには「ディープフェイクや性的コンテンツを防ぐための業界標準のガイドラインが欠けている」とのことです。
MashableはxAIに繰り返し連絡を取りましたが、回答は得られていません。
ディープフェイクは立法府にとってますます大きな懸念事項となっていますが、この種の行為やコンテンツに対する法律はまだ初期段階にあります。 2023年の調査では、オンライン上の[ディープフェイクの98%](https://blogs.lse.ac.uk/wps/2025/01/09/gender-bias-ai-and-deepfakes-are-promoting-misogyny-online/ (新しいウィンドウで開きます)")がポルノであり、それらの動画の99%は女性を描写していた。世界的に、政府は、デジタル時代の危機と呼ばれるものに取り組もうとしています。ドナルド・トランプ大統領は最近、Take It Down Act を正式化しました。これは、物議を醸している法案 であり、合意のない親密な画像を公開したり、公開すると脅迫したりすること を連邦犯罪と定めています。