Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Incidente 54: Predictive Policing Biases of PredPol

Descripción: Predictive policing algorithms meant to aid law enforcement by predicting future crime show signs of biased output.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Alleged: PredPol developed an AI system deployed by PredPol y Oakland Police Department, which harmed Oakland Residents.

Estadísticas de incidentes

ID
54
Cantidad de informes
17
Fecha del Incidente
2015-11-18
Editores
Sean McGregor
Applied Taxonomies
CSETv0, CSETv1, GMF, MIT

Clasificaciones de la Taxonomía CSETv0

Detalles de la Taxonomía

Problem Nature

Indicates which, if any, of the following types of AI failure describe the incident: "Specification," i.e. the system's behavior did not align with the true intentions of its designer, operator, etc; "Robustness," i.e. the system operated unsafely because of features or changes in its environment, or in the inputs the system received; "Assurance," i.e. the system could not be adequately monitored or controlled during operation.
 

Robustness

Physical System

Where relevant, indicates whether the AI system(s) was embedded into or tightly associated with specific types of hardware.
 

Software only

Level of Autonomy

The degree to which the AI system(s) functions independently from human intervention. "High" means there is no human involved in the system action execution; "Medium" means the system generates a decision and a human oversees the resulting action; "low" means the system generates decision-support output and a human makes a decision and executes an action.
 

Unclear/unknown

Nature of End User

"Expert" if users with special training or technical expertise were the ones meant to benefit from the AI system(s)’ operation; "Amateur" if the AI systems were primarily meant to benefit the general public or untrained users.
 

Expert

Public Sector Deployment

"Yes" if the AI system(s) involved in the accident were being used by the public sector or for the administration of public goods (for example, public transportation). "No" if the system(s) were being used in the private sector or for commercial purposes (for example, a ride-sharing company), on the other.
 

Yes

Data Inputs

A brief description of the data that the AI system(s) used or were trained on.
 

Crime statistics

Clasificaciones de la Taxonomía CSETv1

Detalles de la Taxonomía

Incident Number

The number of the incident in the AI Incident Database.
 

54

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

1.1. Unfair discrimination and misrepresentation

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Discrimination and Toxicity

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Informes del Incidente

Cronología de Informes

+1
Tenga cuidado con la vigilancia basada en datos
+2
Vigilando el futuro
Sesgo de máquina+3
La "vigilancia predictiva" está sucediendo ahora, y la policía podría aprender una lección de Minority Report.
+2
La vigilancia predictiva viola más de lo que protege: Columna
La verdad sobre la policía predictiva y la razaIBM utilizó imágenes de vigilancia de la policía de Nueva York para desarrollar una tecnología que permite a la policía realizar búsquedas por color de piel+1
Cómo determinamos que el software de vigilancia predictiva se dirigía desproporcionadamente a los vecindarios latinos, negros y de bajos ingresos
Uso policial de la inteligencia artificial: 2021 en revisión
Tenga cuidado con la vigilancia basada en datos

Tenga cuidado con la vigilancia basada en datos

nytimes.com

Vigilando el futuro

Vigilando el futuro

themarshallproject.org

Los datos policiales podrían estar etiquetando a 'sospechosos' por delitos que no han cometido

Los datos policiales podrían estar etiquetando a 'sospechosos' por delitos que no han cometido

theguardian.com

Vigilancia predictiva: ¿el futuro de la lucha contra el crimen o el futuro de los perfiles raciales?

Vigilancia predictiva: ¿el futuro de la lucha contra el crimen o el futuro de los perfiles raciales?

splinternews.com

Sesgo de máquina

Sesgo de máquina

propublica.org

La "vigilancia predictiva" está sucediendo ahora, y la policía podría aprender una lección de Minority Report.

La "vigilancia predictiva" está sucediendo ahora, y la policía podría aprender una lección de Minority Report.

medium.com

¿Para predecir y servir?

¿Para predecir y servir?

rss.onlinelibrary.wiley.com

La herramienta de predicción del crimen puede estar reforzando la actuación policial discriminatoria

La herramienta de predicción del crimen puede estar reforzando la actuación policial discriminatoria

businessinsider.com

La policía está usando software para predecir el crimen. ¿Es un "santo grial" o está sesgado contra las minorías?

La policía está usando software para predecir el crimen. ¿Es un "santo grial" o está sesgado contra las minorías?

washingtonpost.com

La vigilancia predictiva viola más de lo que protege: Columna

La vigilancia predictiva viola más de lo que protege: Columna

usatoday.com

Por qué la policía de Oakland rechazó la vigilancia predictiva

Por qué la policía de Oakland rechazó la vigilancia predictiva

motherboard.vice.com

La vigilancia predictiva no es tan predictiva como cree

La vigilancia predictiva no es tan predictiva como cree

cfr.org

La verdad sobre la policía predictiva y la raza

La verdad sobre la policía predictiva y la raza

theappeal.org

IBM utilizó imágenes de vigilancia de la policía de Nueva York para desarrollar una tecnología que permite a la policía realizar búsquedas por color de piel

IBM utilizó imágenes de vigilancia de la policía de Nueva York para desarrollar una tecnología que permite a la policía realizar búsquedas por color de piel

theintercept.com

Cómo determinamos que el software de vigilancia predictiva se dirigía desproporcionadamente a los vecindarios latinos, negros y de bajos ingresos

Cómo determinamos que el software de vigilancia predictiva se dirigía desproporcionadamente a los vecindarios latinos, negros y de bajos ingresos

gizmodo.com

El software de predicción de delitos promete estar libre de sesgos. Nuevos datos muestran que los perpetúa

El software de predicción de delitos promete estar libre de sesgos. Nuevos datos muestran que los perpetúa

gizmodo.com

Uso policial de la inteligencia artificial: 2021 en revisión

Uso policial de la inteligencia artificial: 2021 en revisión

eff.org

Tenga cuidado con la vigilancia basada en datos
nytimes.com · 2015
Traducido por IA

Faiza Patel es codirectora del Programa de Libertad y Seguridad Nacional del Centro Brennan para la Justicia de la Facultad de Derecho de la Universidad de Nueva York. Ella está en Twitter.

En todas las épocas, las fuerzas policiales obtien…

Vigilando el futuro
themarshallproject.org · 2016
Traducido por IA

Poco más de un año después de que la muerte de Michael Brown se convirtiera en el punto central de un debate nacional sobre la policía y la raza, Ferguson y los suburbios cercanos de St. Louis han vuelto a lo que parece, desde el exterior, …

Los datos policiales podrían estar etiquetando a 'sospechosos' por delitos que no han cometido
theguardian.com · 2016
Traducido por IA

Un oficial de policía se para en la esquina de una intersección concurrida, escaneando a la multitud con su cámara corporal. La transmisión se transmite en vivo al Centro de delitos en tiempo real en la sede del departamento, donde un softw…

Vigilancia predictiva: ¿el futuro de la lucha contra el crimen o el futuro de los perfiles raciales?
splinternews.com · 2016
Traducido por IA

Este es el Episodio 12 de Real Future, la serie documental de Fusion sobre tecnología y sociedad. Más episodios disponibles en realfuture.tv.

Hay un nuevo tipo de software que pretende ayudar a las fuerzas del orden público a reducir la del…

Sesgo de máquina
propublica.org · 2016
Traducido por IA

EN UNA TARDE DE PRIMAVERA DE 2014, Brisha Borden llegaba tarde para recoger a su hermanastra de la escuela cuando vio una bicicleta Huffy azul para niños sin llave y un scooter Razor plateado. Borden y un amigo tomaron la bicicleta y el sco…

La "vigilancia predictiva" está sucediendo ahora, y la policía podría aprender una lección de Minority Report.
medium.com · 2016
Traducido por IA

La “vigilancia predictiva” está sucediendo ahora, y la policía podría aprender una lección de Minority Report.

David Robinson Bloqueado Desbloquear Seguir Siguiendo 31 de agosto de 2016

En la película Minority Report, los mutantes en una ti…

¿Para predecir y servir?
rss.onlinelibrary.wiley.com · 2016
Traducido por IA

A fines de 2013, Robert McDaniel, un hombre negro de 22 años que vive en el lado sur de Chicago, recibió una visita inesperada de un comandante del Departamento de Policía de Chicago para advertirle que no cometiera más delitos. La visita t…

La herramienta de predicción del crimen puede estar reforzando la actuación policial discriminatoria
businessinsider.com · 2016
Traducido por IA

Natalie Behring/Getty

Los algoritmos se han apoderado de nuestras vidas, lo apreciemos o no.

Cuando Facebook nos ofrece clickbait y teorías de conspiración, es un algoritmo que decide lo que le interesa.

Cuando Uber aumenta los precios en l…

La policía está usando software para predecir el crimen. ¿Es un "santo grial" o está sesgado contra las minorías?
washingtonpost.com · 2016
Traducido por IA

Durante un turno de octubre, el sargento de policía de Los Ángeles. Charles Coleman, de la División Foothill, habla con Clarance Dolberry, con una gorra de béisbol, y Veronica De Leon, con una máscara de Mardi Gras, en una parada de autobús…

La vigilancia predictiva viola más de lo que protege: Columna
usatoday.com · 2016
Traducido por IA

El sistema destinado a aliviar los recursos policiales se dirige desproporcionadamente a las comunidades minoritarias, plantea preocupaciones sobre la Cuarta Enmienda

Una patrulla de la policía de Oakland (Foto: Justin Sullivan, Getty Image…

Por qué la policía de Oakland rechazó la vigilancia predictiva
motherboard.vice.com · 2016
Traducido por IA

Imagen: Gina Ferazzi/Getty

Tim Birch llevaba seis meses en su nuevo trabajo como jefe de investigación y planificación del Departamento de Policía de Oakland cuando entró en su oficina y encontró un trozo de papel de bloc pegado a la pared.…

La vigilancia predictiva no es tan predictiva como cree
cfr.org · 2017
Traducido por IA

El problema de la vigilancia siempre ha sido que es posterior al hecho. Si los agentes de la ley pudieran estar en el lugar correcto en el momento correcto, se podría prevenir el crimen, se podrían salvar vidas y la sociedad seguramente ser…

La verdad sobre la policía predictiva y la raza
theappeal.org · 2018
Traducido por IA

La verdad sobre la policía predictiva y la raza

El domingo, el New York Times publicó un artículo de opinión bien intencionado sobre los temores del sesgo racial en la inteligencia artificial y los sistemas policiales predictivos. Se debe e…

IBM utilizó imágenes de vigilancia de la policía de Nueva York para desarrollar una tecnología que permite a la policía realizar búsquedas por color de piel
theintercept.com · 2018
Traducido por IA

EN LA DÉCADA posterior a los ataques del 11 de septiembre, el Departamento de Policía de la Ciudad de Nueva York se movió para poner a millones de neoyorquinos bajo vigilancia constante. Al advertir sobre amenazas terroristas, el departamen…

Cómo determinamos que el software de vigilancia predictiva se dirigía desproporcionadamente a los vecindarios latinos, negros y de bajos ingresos
gizmodo.com · 2021
Traducido por IA
Introducción La expansión del mantenimiento de registros digitales por parte de los departamentos de policía de los EE. UU. en la década de 1990 marcó el comienzo de la era de la vigilancia basada en datos. Enormes metrópolis como la ciudad…
El software de predicción de delitos promete estar libre de sesgos. Nuevos datos muestran que los perpetúa
gizmodo.com · 2021
Traducido por IA

Entre 2018 y 2021, más de uno de cada 33 residentes de EE. UU. estuvo potencialmente sujeto a decisiones de patrullaje policial dirigidas por un software de predicción de delitos llamado PredPol. La empresa que lo fabrica envió más de 5,9 m…

Uso policial de la inteligencia artificial: 2021 en revisión
eff.org · 2022
Traducido por IA

Hace décadas, al imaginar los usos prácticos de la inteligencia artificial, los escritores de ciencia ficción imaginaron mentes digitales autónomas que podrían servir a la humanidad. Claro, a veces un HAL 9000 o WOPR subvierte las expectati…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Northpointe Risk Models

Machine Bias - ProPublica

May 2016 · 15 informes
COMPAS Algorithm Performs Poorly in Crime Recidivism Prediction

A Popular Algorithm Is No Better at Predicting Crimes Than Random People

May 2016 · 22 informes
Sexist and Racist Google Adsense Advertisements

Discrimination in Online Ad Delivery

Jan 2013 · 27 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Northpointe Risk Models

Machine Bias - ProPublica

May 2016 · 15 informes
COMPAS Algorithm Performs Poorly in Crime Recidivism Prediction

A Popular Algorithm Is No Better at Predicting Crimes Than Random People

May 2016 · 22 informes
Sexist and Racist Google Adsense Advertisements

Discrimination in Online Ad Delivery

Jan 2013 · 27 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df