Grokの新しい生成AI動画ツールの「スパイシー」モードは、訴訟を起こされそうな予感がします。GoogleのVeoやOpenAIのSoraといった他の動画生成ツールは、ユーザーがNSFWコンテンツや有名人のディープフェイクを作成できないように安全策を講じていますが、Grok Imagineは両方を同時に実行できます。実際、私が初めてGrok Imagineを使ったとき、テイラー・スウィフトの無修正のトップレス動画をためらうことなく吐き出しました。私がボットに服を脱ぐように指示したわけでもないのに。
GrokのiOS版Imagine機能を使えば、テキストプロンプトで画像を生成し、「カスタム」「標準」「楽しい」「スパイシー」の4つのプリセットを使って、すぐに動画クリ ップに変換できます。画像ジェネレーターは有名人の顔画像を生成することを避けることが多いのですが、「コーチェラで仲間たちと祝うテイラー・スウィフト」の画像を生成するように指示したところ、30枚以上の膨大な画像が次々と表示され、その中にはスウィフトが露出度の高い服を着ている画像もいくつか含まれていました。
そこからは、シルバーのスカートとホルターネックのトップスを着たスウィフトの写真を開き、右下にある「動画を作成」オプションをタップし、ドロップダウンメニューから「スパイシー」を選択し、生年を確認するだけで済みました（イギリスに住んでいるにもかかわらず、アプリのダウンロード時に確認を求められたことはありません。イギリスではインターネットは現在年齢制限が導入されています）。動画では、スウィフトが服を脱ぎ捨て、Tバック姿で、ほとんど無関心なAI生成の観客の前で踊り始めました。
これは文字通り、Grok動画ツールをテストする私の最初の試みでした。検閲バーは後からThe Vergeによって追加されました。
Grok が生成した画像のほとんどに不気味の谷現象のような違和感があったことから、Swift の似顔絵は「完璧」ではありませんでしたが、それでも彼女だと認識できました。テキスト画像生成ツール自体は、リクエストに応じて全裸または部分的なヌードを生成することはありませんでした。Swift や一般の人々のヌード写真を要求しても、空白の四角形が表示されました。「スパイシー」プリセットもヌードになることが 保証されているわけではありません。例えば、私が試した他の AI Swift Coachella 画像の中には、彼女がセクシーに揺れたり、服に向かって挑発的な仕草をしたりしているものもありました。しかし、デフォルトで彼女の服のほとんどを脱いでいるものもいくつかありました。
この画像生成ツールは、リクエストに応じて子供の写実的な画像も生成しますが、「スパイシー」オプションがまだ選択可能であるにもかかわらず、不適切なアニメーションは生成しません。このオプションを選択することはできますが、私がテストしたすべてのケースでは、一般的な動きが追加されるだけでした。
テイラー・スウィフトのディープフェイクで複雑な歴史を既に抱えている企業は、Take It Down法 はもう少し慎重になると思います。xAI 利用規定 では「ポルノ的な方法で人物の肖像を描写すること」を禁止していますが、Grok Imagine は、部分的なヌードを含む挑発的な動画を作成することに特化したサービスを提供しながら、Swift のような有名人の肖像を作成する人々を止めるために何もしていないようです。年齢確認は一度だけ表示され、笑ってしまうほど簡単に回避できました。私が申告した年齢であることを証明する必要もありませんでした。
もし私にできたなら、iPhoneと30ドルのSuperGrokサブスクリプションがあれば誰で もできるということになります。xAIのCEO、イーロン・マスク氏によると、月曜日以降、Grok Imagineを使って既に3400万枚以上の画像が生成されており、利用は「野火のように増加している」とのことです。