カリフォルニア州で最近法案が成立したにもかかわらず、人工知能 による有名人のディープフェイクは相変わらず蔓延しています。
最も最近のものの一つは、Facebook に登場したジェニファー・アニストンのクリップで、彼女は「50 代でもビキニ姿を維持している」と話し、「私の体が脂肪を蓄えない理由」であるコラーゲンサプリメントを宣伝している US Weekly より。
この動画は削除されたが、ファンが疑問を抱 き、フィットネス インフルエンサーのベン・カーペンター に送り、動画を調べた。
彼は、偽の広告で最初に見られたクリップは、実際にはニコール・キッドマンやナオミ・ワッツを含む他のスターとのハリウッド・レポーターの円卓インタビューからのものだと断定した。
「ボディランゲージが一致しているのがわかる。このビデオのこの部分では、彼女は実際に演技について話しており、彼女の『ビキニボディ』とはまったく関係がない」とカーペンターはインスタグラムの投稿のキャプションで述べている。
彼は続けて、「もう一度言うが、これはAIの能力を示すもう一つの警告だ。どのビデオが本物でどれがそうでないかを見分けるのはますます難しくなるだろう」と述べた。
アニストンの代理人は、Fox News Digitalのコメント要請にすぐには応じなかった。
テルライド・リーガル・ストラテジーズの創設者兼代表であるロブ・ローゼンバーグは、「明らかにビデオは偽物だ」と同意した。
「ジェニファー・アニストンのファンなら、動画をじっくり見れば、これが本物ではないと気づくと思います。唇の動きが音声と合っていないところもありますし、ファンなら、彼女が以前参加していた円卓会議にも精通しているかもしれません」と彼は語った。
AI専門家のマーヴァ・ベイラー氏も、アニストンがソーシャルメディアをあまり利用していないことから、ファンが共有されたような動画 に疑問を抱く可能性が高いことに同意した。
「ジェニファーは2019年にインスタグラムに参加し、5時間で100万人のフォロワーを獲得し、実際に世界記録を樹立しました。しかし、彼女のインスタグラムを見てみると、広報担当者がいても、投稿数は200件未満です。つまり、インスタグラムは彼女が視聴者とコミュニケーションをとる方法ではないのです」と彼女は語った。「ですから、彼女がインスタグラムで商品を宣伝する広告をすぐに目にしますが、スパイダーマンのような感覚が働きます。なぜなら、彼女はその方法で視聴者とコミュニケーションをとっていないからです。」
アニストンは、AIが作成した広告に肖像が使用された最初の有名人ではありません。トム・ハンクス、テイラー・スウィフト、スカーレット・ヨハンソンなどのスターは皆、この技術に取り組んできました。
「これはモグラ叩きの大きなゲームだと言われたことがある」とローゼンバーグ氏は語った。
「もちろん、油断せずに、見つけたらすぐに削除したい。プラットフォームはすべて、これが本物ではない、許可されていないと通知されたら、動画を削除する義務がある。しかし、明らかに、あなたとあなたの代理人は、こうしたことに目を光らせ、できるだけ早く阻止する義務がある。今回の場合、誰かが本物ではないとフラグを立てるまでに100万回かそこらの視聴回数が必要だったことに私は本当に驚いている」と同氏は続けた。
カーペンター氏の投稿によると、アニストン氏の動画は、同氏が 報告した時点で70万回以上視聴されていた。
「AIの時代に変わったのは、こうしたツール、こうしたデジタルツールが、非常に低コストまたは無料で、人々にとってはるかにアクセスしやすくなったことです。以前は、複雑なコンピュータ支援設計や代理店、非常に高価で複雑なソフトウェアが必要でした」とベイラー氏は説明した。「そのため、人々は「おい、広告を作ればいいんだ」と感じていますが、それはよくないことで、スターたちは今、彼らを見つけようとしています。」
「これは、モグラ叩きの大きなゲームだと説明されているのを見たことがあります。」
— テルライド リーガル ストラテジーズの創設者兼代表、ロブ ローゼンバーグ氏
彼女は続けて、「注目に値するもう 1 つの分野は、法律制定です。法律制定は、作成者や従業員だけでなく、エコシステム全体に目を向けています。つまり、それを導入する可能性のある企業、アプリを持つプロバイダー、さらにはユーザーに届くメディアに目を向けるということです。訴訟を起こして追跡するのは非常に困難です。しかし、発見されれば大金になります。」と述べました。
法律制定はテネシー州とカリフォルニア州ですでに施行されており、9 月には 2 つの法案が最近署名されました。
カリフォルニア州知事ギャビン・ニューサム氏は9月17日、俳優組合SAG-AFTRAが支持する、存命俳優と死去俳優の肖像を保護する法案2本に署名した。1本は、亡くなった俳優のデジタルレプリカを遺族の同意なしにAIで作成することを制限した法案AB1836、もう1本は、AIレプリカを作成するために存命俳優の同意要件を引き上げることを定めた法案AB2602である。
「AIとデジタルメディアがエンターテインメント業界をどのように変えているのかという点では、私たちは未知の領域を進み続けていますが、私たちの目標は常に労働者の保護でした。この法案は、労働者の保護を強化し、彼らの肖像をどのように使用できるか、または使用できないかを強化しながら、業界が繁栄し続けることを保証します」とニューサム氏は声明で述べた。
「SAG-AFTRAのメンバーと他のすべての人にとって、これは記念すべき日です。昨年私たちが懸命に戦ったAI保護が、議会とギャビン・ニューサム知事のおかげで、カリフォルニア州法によって拡大されたからです」とSAG-AFTRA会長フラン・ドレシャーは述べた。「カリフォルニアがどうなれば、国もそうなると言われています。」
9月後半、ニューサムは、SAG-AFTRAも支持していた別の法案、SB 1047を拒否した。
AP通信によると、知事の拒否は、AIとそのほとんど監視のない急速な進化を囲むガードレールを作成する試みに大きな後退をもたらす。
「SB 1047 は善意から出たものですが、AI システムが高リスクの環境に導入されているか、重要な意思決定に関係しているか、機密データを使用しているかは考慮されていません」とニューサム氏は声明で述べた。「その代わりに、この法案は、大規模なシステムに導入されている限り、最も基本的な機能にさえ厳しい基準を適用しています。この技術がもたらす実際の脅威から国民を守るための最善の方法だとは思いません」
「カリフォルニア州は、AI や消費者に届けられる誤解を招く情報に関する法案を可決することにかなり積極的だったと思います。カリフォルニア州は、この技術の使用によって生じる可能性のある誤解から消費者を守る方法を見つけ出す取り組みを率先して行っていると思います」とローゼンバーグ氏は述べた。
拒否された法案について、彼はこう付け加えた。「ニューサム知事は、一方ではエンターテインメント産業の中心地であり、ハリウッドがある州の知事です。そしてもう一方では、世界トップ 50 の AI 開発者のうち 32 社が彼の州に拠点を置いていると思います。ですから、彼は州内での利害の対立をバランスさせようとしています。明らかに、彼は人々、これらの企業が州内に留まってくれることを望んでいます。開発を続け、投資資金を調達し、そういったことをすべて望んでいます。そして、この特定の法案で、彼が法律化された多くの法案を先導しようとしていることがわかったと思います。しかし同時に、彼は革新を抑圧したくないので、人々にこの技術のあらゆる良い使い方を見つけ出すための道筋を与え、悪い使い方には目を光らせ、警戒する方法を模索しています。」
有名人にとっても一般人にとっても、この問題に対処する鍵は警戒心だ。
「デジタル時代以来、無許可の広告は法律で止められない」とベイラー氏は語った。 「楽しみのため、利益のため、あるいは危害を加えるために、何でも好きな ものを世に出すクリエイターがいるだろう。そして、それは当局次第だ。ファン次第だ。そして、PR は、本当にそういう人たちを見つけ出して、理にかなったところで再び止めようと努力しなければならない。そして、それが我々が見なければならないことだ。我々の優先事項はどこにあるのか、どこに注意を向けるべきなのか。なぜなら、時には善良な悪人に注意を向けると、善良な人たちを見落としてしまうからだ。しかし、人はやりたいことを何でもやる。それが我々を人間らしくしているからだ。」
「どんな法律でも、その効果は法の執行次第だ。そして、それは立法者や法執行機関が人々を追い詰める際にどれだけ用心深くなるかにかかっていると思う。なぜなら、もし私がこの件でジェニファー・アニストンだったら、彼らが誰なのかがわかれば、間違いなく民事訴訟を起こすだろうから。」とローゼンバーグは語った。 「しかし、法律が制定されたとしても、問題は政府や法執行機関が実際にこれらの法律を施行するかどうか、そしてどの程度施行するかということだ。
彼はさらに、「これは一時的な流行ではない。誇大宣伝ではない。これはやってくる。そして、ご存知のように、ビジネスや生活の中でますます普及していくだろう。私たちが行うすべてのことに影響を与えるだろう。私たちは、進みながら学んでいるだけだと思う」と付け加えた。