ジャスティン・ビーバーがリリースしたような新曲で、歌詞には「ディディのパーティー」に出席したという内容が書かれているが、ソーシャルメディアで話題となり、その信憑性について疑問が巻き起こっている。
この曲は4月に「TikTok、X、YouTube」などのソーシャルメディアプラットフォームに初めて登場したが、問題となっているラッパーのショーン・「ディディ」・コムズの逮捕以降、視聴回数がさらに伸びている。
歌詞には「ディディのパーティーで我を忘れた/こんなことになるなんて知らなかった/新しいフェラーリが欲しかった/でも魂よりはるかに多くの代償を払った」とある。
別の歌詞には「二度と謝らなくて済むように書類にサインした」とある。
ビーバーの代理人は曲についてのコメント要請には応じなかったが、数名の専門家は曲がAI または他のデジタルツールで作成された可能性が高いと認めている。
AI の専門家であるマーバ・ベイラー氏は Fox News Digital に次のように語った。「これが生成された理由は、アーティストが公表しているものではないからです。そして、「AI 生成」と言うとき、それはさまざまなことを意味します。AI は実際に声やそこで起こっていることをトレーニングします。これは AI ツールかもしれませんし、実際のデジタル ツールかもしれません。こうしたデジタル音楽ツールは存在します。これが本当に注目を集めているのは、AI というアイデアです。非常に迅速に行われ、非常にリアルに見えるため、誰もが、誰かが AI を使ってこれをリアルに見せているに違いないと思うのです。」
彼女は続けて、「新曲をリリースする体験の一部は、その前後の体験とデジタルでの関わりです。ですから、アーティストが興奮していなくて、私たちに話してくれなかったら、これは本物ではないとすぐにわかります。私たちはサプライズが好きで、金庫の中に何が入っているのか、新曲はどんなものになるのか、隠しトラックは何かを知るために、多くのゲーム化が見られます。このシナリオでは、このようなことは見たことがありません。だからこそ、ファンはこれは私のジャスティン・ビーバーではないと言っているのです」と語った。
「判断するのは非常に難しいですが、非常に的を射ていて時事的なことのように思えたので、それが現れるのは偶然すぎるように感じました」と、テルライド・リーガル・ストラテジーズの創設者兼代表であるロブ・ローゼンバーグ氏は語った。
CBS は、この曲を「複数の AI 音声検出ツールにかけたところ、いくつかの結果から、音声、または少なくとも一部は AI によって生成された可能性が高いことが示された」と報じた。
技術的なレベルでは、音声認証およびセキュリティ企業である Pindrop の専門家が Fox News Digital に語ったところによると、同社は 2011 年以来銀行業界に深く関わっており、最近は AI によって生成されたディープフェイクの検出に技術を拡大している。同社は、この曲が AI によって生成されたことを示す特定の特徴があると述べている。
「これが生成された理由は、アーティストによって公表されているものではないためです。」 > — AI 専門家、マーバ・ベイラー
「私たちが話すとき、私たちの発声は特定の周波数範囲にあります。そして、私たちが気づいたのは、これらの AI 生成システムは、本当に良い音を出しているのですが、実際には普通の人間のように私たちの話し方と正確な周波数と一致していないということです。そのため、AI が生成した発声でこのような周波数の変動を検出することができます」と、Pindrop のシニア製品ディレクター、サロシュ・シャーブディン氏は述べました。
研究担当副社長、エリー・クーリー博士はさらに、これらのアーティファクトには、音響、音声、時間的な不一致、および AI を生成したモデルの「デジタル指紋」の 3 つの主なカテゴリがあると説明しました。
シャーブディン氏はまた、画像や音声が AI で作成されたかどうかを判断するために、独自の技術が独立した事実確認と結び付けられることが多いと指摘しました。
Pindrop は最近、Pindrop Pulse ツールでソーシャル メディア分野に参入した。Shahbuddin 氏と Khoury 氏は、ディープフェイクをチェックする人が「急増」しており、1 か月に 10,000 件の「疑わしいファイル」がサイトに入力されていると述べた。
彼らは、「合成と分類したメディア ファイルとそうでないメディア ファイルの分布は非常に大きく、憂慮すべき状況です」と指摘した。これは、ディープフェイクを作成するために一般に公開されているオープン ソース ツールのおかげもある。
「これらのモデルの使用を阻止するためにできることはほとんどありません。おかしいことです」と Shahbuddin 氏は述べた。
曲に使用されているコンテンツの問題とは別に、ディープフェイクが続くことで[ビーバーや他のアーティスト]に経済的な影響も生じている。(https://www.foxnews.com/entertainment/morgan-freeman-calls-ai-deepfake-scam-after-voice-replicated-tiktok)
「TikTokの[ポイント]は、楽しい小さな作品を作り、漫画やしゃべる顔や楽しい新しい作品を入れ、人々がそれを新しい作品のBGMとして使うことです。そして、それがどんどん続きます。通常、それがライセンスされた曲であれば、それらの作品が再生されるたびに著作権料が支払われます。そして、この世界全体では、誰も著作権料を受け取っていないのです」とベイラー氏は述べた。
「これ らのソーシャルプラットフォームは、音楽関連のディープフェイクを、政治やその他の種類のディープフェイクとはまったく異なるメディアのカテゴリーとして見始めるでしょう」とシャーブディン氏は説明した。 「その理由は、これらの歌手やアーティストのライセンスを所有するレーベルや組織があり、それがこれらのアーティストへの著作権使用料の分配方法に影響を与えているからです。そのため、これらの歌のディープフェイクは、実際には収益に大きな影響を及ぼす新しいクラスです。そして、YouTube などのプラットフォームは、歌以外のものや音楽関連のディープフェイクよりもはるかに真剣にこれに取り組むようになると思います。」
彼はさらに、「このディープフェイクを作成した人が実際に Spotify に曲として投稿し、何千回も再生されたと想像してみてください。それは、その人のものではない誰かの手に渡るお金です。」と付け加えた。
「これらのモデルの使用を阻止するためにできることはほとんどありません。おかしいです。」
— Pindrop のシニア プロダクト ディレクター、Sarosh Shahbuddin
Bailer 氏は、たとえお金がかかっていても、いくつかの理由から、ビーバーはディープフェイクに対処するつもりはないと述べた。
「ビーバーがこの問題に対処しないのは、インスタグラムに何百万人ものフォロワーがいて、インスタグラムに投稿するだけで200万ドル近くも支払われるから」と彼女は言う。「だから、彼の広報チームが彼の音楽の無許可のリメイクに対処したとしても、彼らがやることはそれだけでしょう。ちなみに 、彼は3か月前に子供が生まれたばかりで、家族のことで忙しいのです。彼と広報チームは、彼のブランドを傷つけようとしている人々に不必要な注目を集めたくないのです。そして、彼らは彼のブランドを傷つけているのではないか、という議論もできるでしょう？」
コムズが逮捕され起訴されて以来、ビーバーと不名誉な大物との過去の友情は、他の有名人とともに精査されており、ファンは2人が交流している再浮上したビデオを精査している。
しかし、ローゼンバーグ氏は、コムズに対する告発が裁判にかけられるにつれて、メディアから新たに出てくる情報には注意するよう人々にアドバイスしている。
「実際、もっと多くの新しい情報が明らかになると思いますし、それと同時に、新たな偽情報も出てくると思います」と同氏は語った。 「ディープフェイクが登場し、人々は創造力を駆使して画像や動画、物語を作り上げます。だからこそ、人々は自分が見たものや見つけたものを本当に精査し、ただいじられているだけではないことを確かめなければなりません。」