概要: 中国成都で発生したXiaomiの電気自動車SU7 Ultraによる死亡事故は、衝突後に自動運転システムとセンサー依存の電子ドアハンドルが故障したと報じられています。車両が炎上し、傍観者はドアを開けることができなかったと報じられており、運転手は現場で死亡しました。この事故を受け、自動化に関連する設計リスクの精査が進められています。この事故後、安全性への懸念が高まる中、Xiaomiの株価は5%以上下落したと報じられています。
推定: Xiaomi Corporation , Xiaomi SU7 Ultra と Autonomous vehicle systemsが開発し提供したAIシステムで、Xiaomi Corporation , General public と Deng (31-year-old driver of a Xiaomi SU7 Ultra)に影響を与えた
関与が疑われるAIシステム: Xiaomi SU7 Ultra と Autonomous vehicle systems
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
7.3. Lack of capability or robustness
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- AI system safety, failures, and limitations
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
インシデントレポート
レポートタイムライン
Loading...