レポート 6351

ジェイク・ポールはインターネット上で話題沸騰中だ。ソーシャルメディアで活動していたポールは、俳優、そしてプロボクサーへと転身。昨年、ボクシング界のレジェンド、マイク・タイソンと史上最多のストリーミング再生数を記録したスポーツイベントで対戦し、歴史に名を残した。そして今、再び脚光を浴び、より多くの注目を集めている。先週投稿された一連の動画には、彼がメイクアップのチュートリアルを披露したり、タコベルで万引きをしたり、セブンイレブンで強盗を働いたりする様子が映っている。

しかし、これらの動画はどれも本物ではなく、OpenAIのSoraアプリで作成されたディープフェイクだ。9月30日にリリースされたこのソフトウェアは、人工知能（AI）を用いて動画を生成し、ユーザーが自分の画像を「カメオ出演」としてアップロードして他の人に使用できるようにする。

ポールは、他の人が使用できるように自らカメオ出演をアップロードし、10月8日にTikTok動画を投稿し、自分が決してしないようなことをしているディープフェイクを拡散している人は訴えると脅した。そう言うと、彼はぎこちなく化粧を始めた。ディープフェイクの多くは、彼が化粧をしている様子を描いていたので、これはジョークだ。翌日、彼はXで、自分が「誇り高きOpenAI投資家」であり「初の有名人NILカメオユーザー」(NILは名前、画像、肖像の頭文字)であること、そして彼の肖像で生成された動画がわずか6日間で10億回以上再生されたことを発表しました。

こうした取り組みは、ディープフェイクのための新たなデジタル経済の幕開けとなる可能性があり、Soraがその重要な推進力となる可能性があります。当初はSoraの機能に楽しい追加機能として見えた「カメオ」機能は、今では目玉の一つとなっており、OpenAIのCEOは収益化計画を発表しました。この開発は、一部の人にとってはチャンスとなる一方で、他の人にとって大きなリスクをもたらします。システムの実装方法によっては、カメオの所有者が使用条件と費用を設定できるようになり、同意なしに画像が使用された人々にある程度のコントロールを取り戻すことができる可能性があります。誰でも自分のNILを共有でき、事実上、自分のデジタルダブルをストックフォトライブラリのようなものに置くことができます。他のアプリユーザーは、権利者が設定したルール（例えばヌード禁止）を遵守し、使用ごとに料金を支払うことで、これらの肖像を小規模かつ追跡可能な使用でライセンス供与することができます。 ディープフェイクは、これまで主に名誉毀損や恐喝に利用されてきましたが、少なくとも被写体にロイヤリティ収入をもたらすようになるでしょう。

もちろん、技術の進歩は多くのユーザーが認識しているよりも速く、そして規制当局が対応できる速度をはるかに超えているため、リスクは甚大です。複製に同意したとしても、選択的に編集されたり、悪意のあるプロンプトが表示されたディープフェイクによって被害を受ける可能性があります。その画像は簡単に盗まれ、詐欺や虚偽の表示に使用される可能性があり、漏洩した生体認証データは、漏洩したパスワードのように簡単にリセットできるものではありません。

NIL市場の確立は潜在的な害悪を解決するものではありませんが、市場の健全性を維持するための規制を通じてそれらを防止する商業的インセンティブを生み出す可能性があります。また、場合によっては、法的理由だけでなく道徳的な理由から、個人のNILの使用が不可能になることもあります。Soraのリリース後1週間で、遺族が抗議 deepfakes of the deadを行い、OpenAIはこれらの要望に応えるツールを追加することを示唆しました。

そして、ディープフェイク経済は、誰も予測できない方法で状況を変える可能性があります。SpotifyやSoundCloudなどの音楽ストリーマーは音楽業界を変革し、曲の共有方法やデザイン方法さえも変えました。たとえば、ミュージシャンは、リスナーがスキップする可能性が低いより短い曲を録音するようになりました。商品化されたディープフェイクでも同様のことが起こるでしょうか？人々の画像が販売または取引されたり、需要に応じて調整されたりする市場が発展する可能性があります。顔写真の価値は、人気の変動に応じて上下するのでしょうか？ディストピア的な話に聞こえるかもしれませんが、私たちはすでにイメージと注目度が収益化される文化に生きており、この傾向は今後も進化し続ける可能性が高いようです。

多くの著名人がすでに商業的なディープフェイクの開発に着手しています。2023年には、ミュージシャンのグライムスが彼女のAI音声を使用して「成功した」曲を制作した人に、著作権使用料を50:50で分配を提供すると発表しました。YouTubeのDream Trackプロジェクトでは、クリエイターがチャーリー・プース、デミ・ロヴァート、ジョン・レジェンドなどのAI歌声でサウンドトラックを制作できます。スポーツスターのデビッド・ベッカムやペイトン・マニングのディープフェイクがCMに登場し、ミュージシャンのFKAツイッグスは音楽制作に集中するため、ソーシャルメディアでのやり取りを管理するためにディープフェイクを作成しました。(https://variety.com/2024/music/news/fka-twigs-deepfake-ai-warner-music-ceo-senate-1235987754/)

ここで、ポールが「SORA」へのカメオ出演で人々に動画制作を許可した論理に戻ります。もし注目が飽和状態のデジタル市場において希少で貴重な財産だとすれば、世界がオンデマンドで「あなた」を生成できるようにすることで、より多くの注目を集め、あなたの価値を高めることができます。彼は資産であると同時に設計者でもあり、今日注目を集めることで、明日にはロイヤルティとして支払われるのです。