レポート 3909

OpenAIは、ChatGPT 4.0の音声モードの新しいデモの一部であるSkyという音声の使用を一時停止しています。感情的な音声は、2013年のスパイク・ジョーンズ監督の映画「Her」でスカーレット・ヨハンソンが演じたAIキャラクターに少し似ていると指摘されており、ヨハンソン自身も、テクノロジー企業が「私に不気味なほど似ている声」を使用したことに「ショックを受け、怒り、信じられない」と述べています。特に、声優として雇うというオファーを断った後ではなおさらです。

*サタデー・ナイト・ライブ*は、土曜日のシーズン49の最終回でヨハンソンとの類似性を強調しました。最近の最終回と同様に、ウィークエンド・アップデートの司会者マイケル・チェとコリン・ジョストは、お互いのジョークを書いた。そのアイデアは「お互いに楽しいジョーク、ほとんど応援するようなジョークを出し合い、決して夏やキャリアを台無しにしない」ことだとジョストは説明した。

当然のことながら、この演習は笑いの絶えないものとなり、2人のコメディアンは、普通なら下品だと思われそうな挑発的なセリフを読み、チェはジョストに、ジョストの妻ヨハンソンに関するチャットGPTのセリフを暗唱させるよう仕向けた。

「チャットGPTは、スカーレット・ヨハンソンが『Her』で演じたAIキャラクターにインスパイアされた新しい音声アシスタント機能をリリースしました」とジョストは土曜日の番組で語った。「あの体がなければ、聞く意味がないので、私は一度も見ようとはしませんでした」 （フルクリップはこちら）

月曜日の早朝、OpenAIは、増大する問題やユーザーからの質問に対処できるまで、Skyの音声を一時停止すると発表しました。

「ChatGPT、特にSkyの音声の選択方法について質問を受けています」と、同社はXの投稿で述べています。「それらの問題に対処する間、Skyの使用を一時停止するよう取り組んでいます。」

Open AI は ブログ投稿 でさらに詳しく説明し、ユーザーの懸念を認めるとともに、広範囲にわたるキャスティング プロセスの詳細を含む音声の作成プロセスについて説明しました。

「AI の音声は、有名人の独特の声を故意に模倣すべきではないと考えています。Sky の声はスカーレット ヨハンソンの模倣ではなく、別のプロの女優が自身の自然な話し声を使用しているものです」と同社は書いています。「プライバシーを保護するため、当社の声優の名前を公開することはできません。」

ブログは次のように続けています。「私たちは、人間と AI の音声インタラクションのビジョンと OpenAI について各俳優と話し合い、テクノロジーの機能、制限、関連するリスク、および実装した安全対策について話し合いました。私たちにとって、各俳優がプロジェクトに参加する前に Voice Mode の範囲と意図を理解することが重要でした。」

ヨハンソン氏は月曜日遅くに声明を発表し（TVLineが入手）、OpenAIのCEOサム・アルトマン氏からChatGPT 4.0の声を担当するようオファーを受けたが、断ったと主張した。その後、スカイの声のデモを聞いたとき、同氏は「アルトマン氏が私の声に不気味なほど似ていて、親しい友人や報道機関が違いを区別できない声を追求したことに、ショックを受け、怒り、信じられなかった」と語った。また、同氏はChatGPT 4.0がリリースされる2日前に、OpenAIが再び彼女のエージェントに連絡して再考を求めたが、彼女が返答する前に、スカイを使った新しいシステムがすでにリリースされていたと主張している。現在、同氏は「弁護士を雇わざるを得なくなった」が、「透明性という形での解決を期待している」。

彼女の全文は以下をご覧ください:

「昨年 9 月、サム・アルトマン氏から、現在の ChatGPT 4.0 システムの声を担当してほしいというオファーを受けました。彼は、私がシステムの声を担当することで、テクノロジー企業とクリエイターの間の溝を埋め、人間と AI に関する大きな変化に消費者が安心できると感じていると話してくれました。私の声は人々に安心感を与えるだろうと彼は言いました。

熟考の末、個人的な理由から、私はオファーを断りました。9 か月後、友人、家族、一般の人々が皆、「Sky」という最新のシステムが私にとても似ていることに気づきました。

公開されたデモを聞いたとき、私はショックを受け、怒り、信じられない気持ちになりました。アルトマン氏が、私の声に不気味なほど似ているため、親しい友人や報道機関が違いを認識できない声を追求したのです。アルトマン氏は、その類似性は意図的なものであるとほのめかし、私が出演した映画にちなんで「彼女」という単語をツイートしました。人間と親密な関係を築くチャット システム、サマンサの声を担当しました。

ChatGPT 4.0 デモがリリースされる 2 日前に、アルトマン氏が私のエージェントに連絡し、考え直すよう求めました。私たちが連絡を取る前に、システムは公開されていました。

彼らの行動の結果、私は弁護士を雇わざるを得なくなり、弁護士はアルトマン氏と OpenAI に 2 通の手紙を書き、彼らが何をしたかを説明し、「Sky」の声を作成した正確なプロセスを詳しく尋ねるように求めました。その結果、OpenAI はしぶしぶ「Sky」の声を削除することに同意しました。

私たち全員がディープフェイクと、私たち自身の肖像、私たち自身の作品、私たち自身のアイデンティティの保護に取り組んでいる今、これらは完全に明確にされるべき問題だと思います。透明性の形で解決され、個人の権利が保護されることを保証するのに役立つ適切な法律が可決されることを期待しています。"