関連インシデント
スカーレット・ヨハンソンの弁護士らは、OpenAIに対し、同女優が自分の声と不気味なほど似ていると語るAIパーソナルアシスタントの音声を同社がどのように開発したかを明らかにするよう要求している。
ヨハンソンの弁護団はOpenAIに2通の手紙を送り、同社が「Sky」と名付けた音声を開発したプロセスを詳細に説明するよう求めたと、ヨハンソンの広報担当者がNPRに語った。この事実はこれまで報道されていなかった。
OpenAIが先週、この音声のライブデモンストレーションを行った後、多くの観察者が、コンピューターのオペレーティングシステムの女性の音声に恋する男性を描いた2013年のスパイク・ジョーンズのロマンティックSF映画「Her」でのヨハンソンの声と比較した。
OpenAIのCEO、サム・アルトマン氏は、2013年のスパイク・ジョーンズ監督作品がお気に入りの映画だと発言しており、Twitterで「Her」という単語を投稿して比較を招いた。同社は、新しい ChatGPT バージョンを発表した後、X にコメントを求めた。しかしその後、OpenAI の幹部は、ヨハンソン氏と新しい音声アシスタントとのつながりを否定した。
その後、同社は突然、音声を停止した。
日曜日の太平洋時間深夜直前の X への投稿 で、OpenAI は、音声は「ChatGPT の音声の選択方法に関する質問」に対応するため停止されると述べた。同社の広報担当者は、それ以上の詳細は明らかにしなかった。
結局、アルトマン氏は数か月間このハリウッドスターを口説いていたが、彼女は今、裏切られたと感じている。
ヨハンソン氏によると、9 か月前にアルトマン氏が彼女に近づき、彼女の音声を新しい ChatGPT 音声アシスタントにライセンス供与することを提案したという。彼は、AI テクノロジーに不安を抱く人々にとって「安心できる」ものになるだろうと考えた。
「熟考の末、個人的な理由で、私はその申し出を断りました」とヨハンソン氏は書いている。
新しい ChatGPT が発表されるわずか 2 日前、アルトマンは再びヨハンソンのチームに連絡を取り、考え直すよう促したと彼女は語った。
しかし、彼女とアルトマンが連絡を取る前に、同社は新しい派手な製品を公表した。その声は、彼女の肖像をコピーしたようだと彼女は言う。
ヨハンソンにとって、それは個人的な侮辱だった。
「アルトマン氏が、私の声に不気味なほど似ていて、親しい友人や報道機関が違いを区別できない声を追求したことに、私はショックを受け、怒り、信じられなかった」と彼女は語った。
また、インターネットが偽情報で溢れているこの時期に、彼女はそれを憂慮していると述べた。
「私たち全員がディープフェイクと格闘し、私たち自身の肖像、私たち自身の仕事、私たち自身のアイデンティティを保護しているこの時代に、これらの問題は完全に明確にされるべきだと私は信じています」とヨハンソンは語った。
OpenAIのアルトマン氏は、ヨハンソン氏とスカイの声に何らかのつながりがあるとは否定した。
「ヨハンソン氏に働きかける前に、スカイの声を担当する声優をキャスティングしました。ヨハンソン氏への敬意から、当社の製品でスカイの声を使用することを中止しました。ヨハンソン氏には、もっと適切なコミュニケーションが取れなかったことをお詫びします」とアルトマン氏はNPRへの声明で述べた。
ヨハンソン氏はこの事件を利用して、主要なAIツールを動かすために創作作品を使用することに関する法的保護措置の欠如に注意を喚起した。
「個人の権利が保護されることを確実にするために、透明性の形での解決と適切な法律の可決を期待しています」と同氏は述べた。
OpenAI、「スカイ」の開発には別の女優の声が使用されたと発表
OpenAIは日曜日遅くのブログ投稿で、「スカイ」として知られる問題のAI音声は、別の女優の声から開発されたもので、同社は彼女のプライバシーを保護するためにその女優の身元を明かさないとしていると述べた。
「AI の音声は有名人の独特の声を故意に真似るべきではないと私たちは考えています。スカイの声はスカーレット・ヨハンソンの真似ではなく、別のプロの女優が彼女自身の自然な話し声を使って作ったものです」と同社は書いている。
GPT-4o と呼ばれるこの新しいモデルは、チャットボットを音声アシスタントに変え、表情を解釈し、感情を感知し、指示に従って歌うことさえできる。
この新しい音声アシスタントは、今後数週間で一般公開される予定。先週のライブデモでは、OpenAI の従業員の一部に、わざとらしく、色っぽい口調で話しかけたため、このコケティッシュな態度は、人々を AI システムに引き付けておくための意図的な策略ではないかと疑問に思う人もいた。
先週の NPR とのインタビューで、OpenAI の最高技術責任者であるミラ・ムラティ氏は、同社は ChatGPT の音声を映画の中のヨハンソンの官能的なコンピューター音声に倣って作ったわけではないと述べた。
「これは、テクノロジーそのものよりも、私たちの想像力、社会としてのストーリーテリングについて多くを語っています」とムラティ氏は語った。 「この技術の開発方法は、映画やSFストーリーに基づいているわけではありません。考えることができ、世界をしっかりと理解できるマシンを作ろうとしているのです。」
「声についてはわかりません。実際にスカーレット・ヨハンソンの声を聞きに行かなければなりませんでした」と彼女は言った。
ChatGPTの軽薄な会話について尋ねられたムラティ氏は、このモデルは単に人々が提供したものに反応するだけだと述べた。
「どのようにやり取りしているかに応じて反応します」と彼女は言った。「事前に設定されているわけではありません。入力に基づいています。」
OpenAIは日曜日の夜のブログ投稿で、このチャットボットは声優や映画俳優と緊密に協力して制作された5つの声で開発されたと述べた。
「今後、ユーザーの多様な興味や好みによりよく合うようにChatGPTに追加の声を導入する予定なので、さらに多くのオプションが期待できます」と同社は投稿に書いた。
OpenAIの発表の翌日、Googleは年次開発者会議を開催し、同じく女性の声による独自のパーソナルAIアシスタント「Project Astra」を発表した。似ているものの、Googleのバージョンは気の利いたおどけた感じがはるかに少なく、より事実に基づいたものだった。
専門家によると、これらの製品は次世代の最先端のAI技術を垣間見せてくれると同時に、ツールを採用する人が増えるにつれて生じるリスクについても疑問を投げかけている。
アリゾナ州立大学でAI音声技術を研究するヴィサール・ベリシャ教授は、人間のような性格で話す高度なAI音声アシスタントが社会にどのような変化をもたらすかを予測するのは難しいと述べた。
「音声によるコミュニケーションは非常に親密で、非常に影響力があります。音声によってAIは繊細さ、誠実さ、緊急性、喜び、懸念 として認識されるものを表現することができます」と同教授は述べた。 「そして、これらすべてが、ユーザーとマシンのより深いつながりを育む役割を果たします。こうしたやりとりが中毒性を持つ可能性があることがわかります。」
ベリシャ氏は、主人公にとってハッピーエンドではない映画『her/世界でひとつの彼女』の筋書きのように、人々が AI システムと感情的なつながりを築き始める可能性があると述べた。
「初めてその映画を見たときは、SF のようでした」とベリシャ氏は語った。「今はそうは思えません。」