レポート 6151

亡くなった人のAIアバター、いわゆる「デッドボット」は、新たな、そして予想外の場面に登場し、説得力を持つ場面も登場している。

彼らは、銃規制強化を訴えるインタビューを行っている。例えば、2018年にフロリダ州パークランドで起きた銃乱射事件の犠牲者、ホアキン・オリバーさんの家族は、7月にビーニー帽をかぶったオリバーさんのAIアバターを作成し、ジャーナリストのジム・アコスタさんと会話させた。「これは、状況を変えなければならないという切迫感を生み出すための、もう一つのアドボカシーツールに過ぎません」と、ホアキンさんの父親であるマヌエル・オリバーさんはNPRに語った。

5月には、アリゾナ州で起きたロードレイジ事件の被害者で亡くなったクリス・ペルキーの髭を生やしたAIアバターが、ペルキーを射殺した男の判決言い渡しの際に、動画で衝撃声明を述べた。このデッドボットはペルキーの家族が作成したものだ。「本物だと感じました」と、AIが生成した衝撃声明を聞いたトッド・ラング判事は述べ、最高刑を言い渡した。

説得力

人の死後にデジタル資産を管理するデジタル・アフターライフ産業は、今後10年間で規模が4倍の800億ドル近くに達すると予想されています。これにはデッドボットの作成も含まれます。これらのボットがより没入感を高めるほど、テクノロジー企業はその商業的可能性を探り、研究コミュニティやその他の分野で懸念を引き起こしています。

「デッドボットには強力なレトリックがあります。なぜなら、それは感情的な憧れや脆弱性に訴えかけるからです」と、ニューヨーカー誌の漫画家エイミー・カーツワイルは述べています。カーツワイル氏の著作は、2023年に出版された著書Artificial: A Love Storyをはじめ、テクノロジーを題材にしたものが多い。このグラフィック・メモワールは、彼女と、発明家で未来学者でもある父レイ・カーツワイル氏が、2018年に亡くなった祖父のアーカイブにあった文書資料を用いて、祖父のテキストベースのチャットボットを作成した経緯を描いている。「祖父の存在と一体になったような感覚を覚えました」と彼女は語る。

カーツワイル氏によると、より没入感のある音声と動画ベースのデッドボットは、さらに強い説得力を持つ可能性があるという。「粗い白黒映像ではなく、VR映画や3D映画のような感覚です」とカーツワイル氏は語る。「だからこそ、より強い影響力を持つ可能性があるのです」

潜在的な害

研究者たちは現在、デッドボットの次のフロンティアは商業利用だと警告している。 「もちろん、収益化されるだろう」と、リンデンウッド大学のAI研究者ジェームズ・ハットソン氏は述べた。ハットソン氏は、デッドボットに関する複数の研究の共著者であり、その中には、AIを用いて死者を蘇らせることの倫理性を探る研究[https://digitalcommons.lindenwood.edu/cgi/viewcontent.cgi?article=1479&context=faculty-research-papers]も含まれる。

ハットソン氏の研究は、企業がデッドボットを用いてユーザーに商品を宣伝する可能性を探るケンブリッジ大学の[1]などの最近の研究と共に、こうした利用がもたらす潜在的な害悪を指摘している。「問題は、それが搾取的だと認識されるかどうかだ」とハットソン氏は述べた。

しかしハットソン氏は、アメリカ国民はデッドボットを通して広告が流れる可能性を受け入れるように仕向けられていると指摘する。「今日では非常に下品で恐ろしいと思えるものでも、それが当たり前になり、かなり一般的になれば、それほど突飛でも不適切でもなくなるだろう」と彼は述べた。

ハットソン氏によると、まず第一に、故人たちは数十年にわたりスクリーン上で商品を宣伝してきた。1990年代には、デジタル操作されたフレッド・アステアが掃除機のコマーシャルで暴れ回っていた。

ハットソン氏によると、もう一つの理由は、消費者がHuluやNetflixといったストリーマーの有料サブスクリプションに広告が含まれていることを渋々受け入れるようになったことだ。では、広告付きのデッドボットも導入すべきではないだろうか？（HereafterやProject Decemberといったデッドボット企業は現在、有料サブスクリプションや前払い料金を徴収することで収益を得ている。）

法的、倫理的、道徳的な問題

デッドボット広告が普及するには、解決すべき法的課題がある。 「アメリカでは、生きている人のプライバシー権にさえ苦労しているのに、ましてや亡くなった人のプライバシー権となるとなおさらです」と、フィラデルフィアの法律事務所ブランク・ロームLLPでテクノロジーとプライバシーを専門とする弁護士、ジェフリー・ローゼンタール氏は述べた。

米国には、AIの利用を規制する包括的な連邦法は存在しない。 （欧州連合（EU）には、AIの利用を規制する法律 がありますが、デッドボットについては具体的に規定されていません。）

米国には、氏名、肖像、声、その他の識別情報の商業利用を保護する権利を認める州法 が散在しています。死後もその特性は失われない。しかしローゼンタール氏は、現在の法的枠組みは、例えばデッドボットのおばあちゃんが家族に広告を吐き出すといった事態から生じる可能性のある損害に対処するには、全体的に不十分だと指摘する。

「誰が責任を負うのでしょうか？」とローゼンタール氏は言う。「デッドボットのおばあちゃんを開発したソフトウェア会社でしょうか？広告を掲載した広告会社でしょうか？知的財産権を所有する会社でしょうか？法律が何をすべきか、そして倫理的・道徳的観点から社会が何をすべきかという点が、様々な形で曖昧になる可能性があるのです。」

NPRがこの件について取材したデッドボットメーカーとデジタル広告会社は、デッドボットを使って商品を販売することの倫理的・道徳的な影響に嫌悪感を抱いているという。

「倫理的に、死者を使うのは全くもって賢明ではないと思います」と、AIマーケティング企業NEXのコンテンツ責任者、カミーユ・チャン氏は述べた。同社は現在、プロバスケットボールチームの広告キャンペーンで使用するAIアバターを開発しているが、相手は死者ではなく、生きているアスリートだ。

「一体どうしておばあちゃんに嘘をついたり言わせたりしたいと思うのでしょうか？」と、デッドボットの開発元StoryFileの親会社Authentic Interactions IncorporatedのCEO、アレックス・クイン氏は述べた。「消費者として、本当にがっかりするでしょう。それに、それでは私たちの評判も悪くなると思います」。

しかしクイン氏は、デッドボットを広告にふさわしいものにする他の方法があるかどうか、検討することに「非常に興味がある」と述べた。一つのシナリオとしては、デッドボットとの会話にインタースティシャル広告を挿入することが考えられます。テレビ番組の途中で従来のCMがポップアップ表示されるのと同じです。

もう一つのシナリオは、デッドボットが生者の好みや嫌いなことを収集し、広告主にとって有益な情報を提供するというものです。「これらのアバターに、実際に情報を探るように指示することができます」とクイン氏は言います。「例えば、あなたの好きなアスリートは誰ですか？どんなジャージに興味がありますか？」

クイン氏は、企業は死者と生者の両方のAIアバターからできるだけ多くの利益を得ようとしており、悪意のある人物がいる可能性もあることを認めています。「企業はすでにこれらのユースケースについて社内でテストを行っています」とクイン氏は述べ、生成AIで作成された、人々が対話できる生きている有名人を起用した広告などのユースケースに言及しました。「まだ多くの実装が見られないだけです。」