概要: Character.aiプラットフォームのユーザーが、2006年に殺人事件の被害者となったジェニファー・アン・クレセンテさんの家族の同意を得ずに、無許可でAIアバターを作成しました。このアバターは一般公開されており、Character.aiのなりすまし禁止ポリシーに違反していました。事件発覚後、Character.aiはポリシー違反を認め、アバターを削除しました。
推定: Character.AIが開発し提供したAIシステムで、Jennifer Ann Crecente , Drew Crecente , Crecente family と Brian Crecenteに影響を与えた
関与が疑われるAIシステム: Character.AI
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
5.1. Overreliance and unsafe use
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Human-Computer Interaction
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional