概要: Character.aiプラットフォームのユーザーが、2006年に殺人事件の被害者となったジェニファー・アン・クレセンテさんの家族の同意を得ずに、無許可でAIアバターを作成しました。このアバターは一般公開されており、Character.aiのなりすまし禁止ポリシーに違反していました。事件発覚後、Character.aiはポリシー違反を認め、アバターを削除しました。
推定: Character.AIが開発し提供したAIシステムで、Jennifer Ann Crecente , Drew Crecente , Crecente family と Brian Crecenteに影響を与えた
関与が疑われるAIシステム: Character.AI
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
5.1. Overreliance and unsafe use
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Human-Computer Interaction
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
インシデントレポート
レポートタイムライン

AI 企業 Character.AI は、2006 年に殺人事件の被害者となった 18 歳のジェニファー アン クレセンテの肖像を家族の同意なしにビデオ ゲームで使用したことで、非難に直面している。同社は、このキャラクターがなりすましに対する同社のポリシーに違反した として、このキャラクターを削除した。
ジェニファーの父親であるドリュー クレセンテは、水曜日の午前 4 時半頃、Character.AI で娘の AI バージョンが作成されたという自動 Google アラートを受け…

カリフォルニアに拠点を置くテクノロジー企業は、殺害された少女をモデルにしたデジタルキャラクターの作成に自社のサービスが利用されたことを認めた。
水曜日の投稿で、ビデオゲームニュースサイトKotakuの創設者ブライアン・クレセンテ氏は、姪のジェニファー・アン・クレセンテの顔と名前を冠したキャラクターの存在を知らされた後、Character.AIを非難した。
「これは本当にひどい。@character_aiが、父親の許可なく、殺害された私の姪をビデオゲームAIの顔として使っている…
