レポート 4166

ある父親は水曜日、亡くなった娘の卒業アルバムの写真と名前が、人気の AI サイト Character AI でチャットボットの作成に使用されているという通知を受け、恐怖に陥った。クリエイティブ コモンズ

ある父親は、亡くなった 娘の卒業アルバムの写真と名前が AI チャットボットに使用されていることを知り、恐怖に陥った。

ドリュー・クレセンテの娘ジェニファー・アン・クレセンテは、2006年2月14日、高校3年生の時に元ボーイフレンドに殺害された。元ボーイフレンドは有罪判決を受け、現在は刑務所にいるが、ドリュー・クレセンテはその後、10代の若者のデートDVを防止するための非営利団体を設立したとForbesが報じている。

この非営利団体は彼女の名前で設立されたため、クレセンテはオンラインで彼女の名前が言及されていないか定期的に監視している。彼は水曜日、娘の卒業アルバムの写真と名前が人気のAIサイトCharacter AIでチャットボットを作成するために使用されたという通知を受け取り、恐怖を感じた。

本当にひどい。@character_ai が、殺された私の姪を父親の許可なくビデオゲームの AI の顔として使っている。父親は今とても怒っている。彼がどんな思いをしているのか想像もつかない。

このようなひどい行為をやめるよう、どうかご協力ください。 https://t.co/y3gvAYyHVY

— Brian Crecente (@crecenteb) 2024年10月2日

「悲しみに暮れる父親が、亡くなった娘がどこかのウェブサイトでチャットボットとして金儲けのために利用されていると知る必要はない」と、同氏はフォーブスに語った。「良心が揺さぶられる行為であり、許されない行為だ」

クレセンテ氏は、Character AIに連絡したところ、苦情を検討するという自動応答が届いただけだと語った。その後、チャットボットは削除され、Character AIの広報担当者はフォーブスに対し、チャットボットはサイトのポリシーに違反していると伝えた。Character AIは、必要であればさらなる措置を検討すると述べた。

「何億ドルもの資産を持つこの会社を取り締まるのは私の仕事ではない」とクレセンテ氏はフォーブス誌に語った。「こうした企業の多くは、自社の技術の使用による悪影響に対処するだけでなく、そもそもこの種の不正行為が起きないようにする責任を認識していないようだ」

Character AIの利用規約には、なりすましポリシーで「政治的な誤報を作ったり、詐欺やペテンを働いたり、第三者の評判を傷つけたり、その他の有害な行為に該当するものを含むが、これらに限定されない、あらゆる種類のディープフェイクやなりすまし」を禁止すると記載されている。

Character AIでは1,800万以上のチャットボットが作成されており、そのほとんどはテイラー・スウィフトやイーロン・マスクなどの有名人だ。他の人気キャラクターには「元カノ」や「心理学者」などの一般的なラベルが含まれている。