Incidente 747: Se informa que se producen muertes a pesar de los puntajes de riesgo bajos o insignificantes del algoritmo VioGén
Descripción: El algoritmo VioGén se diseñó para ayudar a la policía española a evaluar y priorizar el riesgo de reincidencia en violencia doméstica. Sin embargo, la evaluación de bajo riesgo de Lobna Hemid resultó, según se informa, en una protección insuficiente; su esposo la asesinó. Desde 2007, 247 mujeres han sido asesinadas tras ser evaluadas por VioGén. Una revisión de 98 homicidios reveló que 55 de las mujeres asesinadas se clasificaron como de riesgo insignificante o bajo.
Entidades
Ver todas las entidadesAlleged: Spanish law enforcement agencies , Spanish Interior Ministry y VioGén algorithm development team developed an AI system deployed by Spanish law enforcement agencies y Spanish Interior Ministry, which harmed Women in Spain , Stefany González Escarraman , Spanish general public , María , Luz , Lobna Hemid , Eva Jaular y 247 women in Spain (unnamed).
Estadísticas de incidentes
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
7.3. Lack of capability or robustness
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- AI system safety, failures, and limitations
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
Informes del Incidente
Cronología de Informes
In a small apartment outside Madrid on Jan. 11, 2022, an argument over household chores turned violent when Lobna Hemid's husband smashed a wooden shoe rack and used one of the broken pieces to beat her. Her screams were heard by neighbors.…
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents
:format(webp)/cdn.vox-cdn.com/uploads/chorus_image/image/59105949/wjoel_180320_2353_healthcare_001.0.jpg)
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents