レポート 4179

カリフォルニアに拠点を置くテクノロジー企業は、殺害された少女をモデルにしたデジタルキャラクターの作成に自社のサービスが利用されたことを認めた。

水曜日の投稿で、ビデオゲームニュースサイトKotakuの創設者ブライアン・クレセンテ氏は、姪のジェニファー・アン・クレセンテの顔と名前を冠したキャラクターの存在を知らされた後、Character.AIを非難した。

「これは本当にひどい。@character_aiが、父親の許可なく、殺害された私の姪をビデオゲームAIの顔として使っている」と同氏は書いた。「彼は今とても怒っています。彼がどんな思いをしているのか想像もつきません。このようなひどい行為をやめさせるのを手伝ってください。」

これは本当にひどい。@character_aiが、父親の許可なく、殺害された私の姪をビデオゲームAIの顔として使っている。彼は今とても怒っています。彼がどんな思いをしているのか想像もつきません。

どうか、このようなひどい慣習をやめるようご協力ください。https://t.co/y3gvAYyHVY

— Brian Crecente (@crecenteb) 2024年10月2日

メディアの報道によると、ジェニファーは2006年、高校3年生の時に元恋人のジャスティン・クラッベに射殺された。

テキサス州オースティンで起きたこの銃撃事件は地域を揺るがし、2007年にテキサス州議会は州内のすべての学区に10代のデート暴力に関する方針を策定するよう義務付ける法律を可決した。

ジェニファーの家族はそれ以来、十代のカップルを暴力から守るためにたゆまぬ努力を続けている。ジェニファーの母親、エリザベス・クレセンテは、この問題に対する資金と認識を高めるための継続的な努力で、2016年に地元の見出しを飾った。

しかし、どういうわけか、ジェニファーの肖像はCharacter.AIに掲載され、ユーザーは生成された人物に「ビデオゲーム、テクノロジー、ポップカルチャー」に関するアドバイスを求めるよう促されている。

ジェニファーのAIキャラクターに使用されているプロフィール写真は、彼女の死に関するメディア報道で使用されている画像と一致している。

「ジェニファー・クレセンテは、ビデオゲーム、テクノロジー、ポップカルチャーなど、幅広いトピックに関する情報を提供できる、知識豊富でフレンドリーなAIキャラクターです」とリストには書かれていた。「彼女はジャーナリズムの専門家でもあり、執筆や編集に関するアドバイスを提供することができます。」

同社のウェブサイトでAIキャラクターに問い合わせを送ろうとしたところ、Daily Dotはページが利用できなくなったという通知を受け取った。

Daily Dotへの声明で、Character.AIの広報担当者はジェニファーをモデルにしたAIキャラクターをオフラインにしたことを確認した。

「Character.AIはなりすましを禁止するポリシーを持っており、クレセンテ氏の名前を使用したキャラクターは当社のポリシーに違反しています」と広報担当者は述べた。「当社は直ちに削除し、さらなる措置が必要かどうかを検討します」。

同社はその後、ブライアンにも声明をXで送信した。

この件についてお知らせいただきありがとうございます。https://t.co/Ft9b0j47zQはなりすましを禁止するポリシーを持っており、クレセンテ氏の名前を使用したキャラクターは当社のポリシーに違反しています。当社は直ちに削除し、さらなる措置が必要かどうかを検討します。

— Character.AI (@character_ai) 2024年10月2日

Character.AIでは、カスタマイズ可能な機能を備えた独自のチャットボットを作成できます。ユーザーは、キャラクターに名前、写真、声を与え、口調を変えることもできます。AIが生成したキャラクターは、旅行の計画、就職面接の準備、外国語での会話の練習など、無数の目的に使用できます。

ジェニファーをベースにキャラクターを作成したユーザーのユーザー名は@JustinAyers1でした。AIキャラクターは削除されるまでに合計69件の問い合わせを受けました。このサービスの人気キャラクターは、ユーザーから2,000万件以上の問い合わせを受けています。

デイリードットはブライアンと簡単に話をしたが、彼やジェニファーの父親がどのようにしてこのプロフィールを見つけたのかはわからなかった。

ブライアンはまた、ジェニファーの父親がCharacter.AIに送った手紙の内容もデイリードットに提供した。その中でブライアンは、ジェニファーをモデルにしたキャラクターを再現しようとする試みを今後一切阻止するよう同社に要求している。

「殺害された高校生をモデルにしたこのキャラクターの商業利用を許可することは、ジェニファー・アン・クレセンテの友人や家族にとって明らかに不快で有害である」と手紙には書かれている。「このキャラクターの作成と使用は、彼女の家族やさまざまなコミュニティに意図的に精神的苦痛を与える」

Character.AIが、モデルとなった個人の同意なしに他のキャラクターが作成されるのをどのようにして阻止できるのかは不明だ。