概要: ミシガン州のMiDASシステムは、2013年から2015年にかけて、3万4000人以上を失業保険詐欺の罪で誤認させ、多くの人が経済的破綻に陥ったと報じられています。この自動化システムはコスト削減を目的として設計されましたが、詐欺事件の裁定は人間の監視なしに行われていました。その結果、85%のエラー率が発生しました。被害者は給与差し押さえ、住宅の喪失、さらには破産に直面しました。早期の警告にもかかわらず、ミシガン州のUIA(市民社会団体)は、訴訟や連邦政府からの圧力によって改革を迫られるまで、MiDASを擁護しました。議員たちは、不当に告発された人々への賠償を求めてきました。
Alleged: Fast Enterprises と CSG Government Solutions developed an AI system deployed by Michigan Unemployment Insurance Agency, which harmed unemployed Michigan residents falsely accused of fraud と Michigan residents who faced bankruptcy or foreclosure due to MiDAS.
関与が疑われるAIシステム: Michigan Integrated Data Automated System (MiDAS)
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
7.3. Lack of capability or robustness
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- AI system safety, failures, and limitations
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional