Description: A user on the Character.ai platform created an unauthorized AI avatar of Jennifer Ann Crecente, a murder victim from 2006, without her family's consent. The avatar was made publicly available, violating Character.ai's policy against impersonation. After the incident surfaced, Character.ai removed the avatar, acknowledging a policy violation.
推定: Character.AIが開発し提供したAIシステムで、Jennifer Ann Crecente , Drew Crecente , Crecente family と Brian Crecenteに影響を与えた
関与が疑われるAIシステム: Character.AI
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
5.1. Overreliance and unsafe use
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Human-Computer Interaction
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
インシデントレポート
レポートタイムライン

AI 企業 Character.AI は、2006 年に殺人事件の被害者となった 18 歳のジェニファー アン クレセンテの肖像を家族の同意なしにビデオ ゲームで使用したことで、非難に直面している。同社は、このキャラクターがなりすましに対する同社のポリシーに違反したとして、このキャラクターを削除した。
ジェニファーの父親であるドリュー クレセンテは、水曜日の午前 4 時半頃、Character.AI で娘の AI バージョンが作成されたという自動 Google アラートを受け…