Registro de citas para el Incidente 54

Description: Predictive policing algorithms meant to aid law enforcement by predicting future crime show signs of biased output.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial
Presunto: un sistema de IA desarrollado por PredPol e implementado por PredPol y Oakland Police Department, perjudicó a Oakland Residents.

Estadísticas de incidentes

ID
54
Cantidad de informes
17
Fecha del Incidente
2015-11-18
Editores
Sean McGregor

Clasificaciones de la Taxonomía CSETv0

Detalles de la Taxonomía

Full Description

Predictive policing algorithms meant to aid law enforcement by predicting future crime show signs of biased output. PredPol, used by the Oakland (California) Police Department, and the Strategic Subject List, used by Chicago PD, were subjects of studies in 2015 and 2016 showing their bias against "low-income, minority neighborhoods." These neighborhoods would receive added attention from police departments expecting crimes to be more prevalent in the area. Notably, Oakland Police Department used 2010's record of drug crime as their baseline to train the system.

Short Description

Predictive policing algorithms meant to aid law enforcement by predicting future crime show signs of biased output.

Severity

Minor

Harm Distribution Basis

Race, National origin or immigrant status, Financial means

Harm Type

Harm to civil liberties

AI System Description

Predictive policing algorithms meant to aid police in predicting future crime.

System Developer

PredPol, Chicago Police Department

Sector of Deployment

Public administration and defence

Relevant AI functions

Cognition

AI Techniques

machine learning

AI Applications

Predictive policing

Named Entities

Oakland Police Department, Chicago Police Department, PredPol, Human Rights Data Analysis Group, Strategic Subject List

Technology Purveyor

PredPol, Chicago Police Department, Oakland Police Department

Beginning Date

2015-01-01T00:00:00.000Z

Ending Date

2017-01-01T00:00:00.000Z

Near Miss

Unclear/unknown

Intent

Unclear

Lives Lost

No

Laws Implicated

Fourth Amendment of the US Constitution

Data Inputs

Crime statistics

Vigilando el futuro

Vigilando el futuro

themarshallproject.org

Sesgo de máquina

Sesgo de máquina

propublica.org

¿Para predecir y servir?

¿Para predecir y servir?

rss.onlinelibrary.wiley.com

Tenga cuidado con la vigilancia basada en datos
nytimes.com · 2015

Faiza Patel es codirectora del Programa de Libertad y Seguridad Nacional del Centro Brennan para la Justicia de la Facultad de Derecho de la Universidad de Nueva York. Ella está en Twitter.

En todas las épocas, las fuerzas policiales obtien…

Vigilando el futuro
themarshallproject.org · 2016

Poco más de un año después de que la muerte de Michael Brown se convirtiera en el punto central de un debate nacional sobre la policía y la raza, Ferguson y los suburbios cercanos de St. Louis han vuelto a lo que parece, desde el exterior, …

Los datos policiales podrían estar etiquetando a 'sospechosos' por delitos que no han cometido
theguardian.com · 2016

Un oficial de policía se para en la esquina de una intersección concurrida, escaneando a la multitud con su cámara corporal. La transmisión se transmite en vivo al Centro de delitos en tiempo real en la sede del departamento, donde un softw…

Vigilancia predictiva: ¿el futuro de la lucha contra el crimen o el futuro de los perfiles raciales?
splinternews.com · 2016

Este es el Episodio 12 de Real Future, la serie documental de Fusion sobre tecnología y sociedad. Más episodios disponibles en realfuture.tv.

Hay un nuevo tipo de software que pretende ayudar a las fuerzas del orden público a reducir la del…

Sesgo de máquina
propublica.org · 2016

EN UNA TARDE DE PRIMAVERA DE 2014, Brisha Borden llegaba tarde para recoger a su hermanastra de la escuela cuando vio una bicicleta Huffy azul para niños sin llave y un scooter Razor plateado. Borden y un amigo tomaron la bicicleta y el sco…

La "vigilancia predictiva" está sucediendo ahora, y la policía podría aprender una lección de Minority Report.
medium.com · 2016

La “vigilancia predictiva” está sucediendo ahora, y la policía podría aprender una lección de Minority Report.

David Robinson Bloqueado Desbloquear Seguir Siguiendo 31 de agosto de 2016

En la película Minority Report, los mutantes en una ti…

¿Para predecir y servir?
rss.onlinelibrary.wiley.com · 2016

A fines de 2013, Robert McDaniel, un hombre negro de 22 años que vive en el lado sur de Chicago, recibió una visita inesperada de un comandante del Departamento de Policía de Chicago para advertirle que no cometiera más delitos. La visita t…

La herramienta de predicción del crimen puede estar reforzando la actuación policial discriminatoria
businessinsider.com · 2016

Natalie Behring/Getty

Los algoritmos se han apoderado de nuestras vidas, lo apreciemos o no.

Cuando Facebook nos ofrece clickbait y teorías de conspiración, es un algoritmo que decide lo que le interesa.

Cuando Uber aumenta los precios en l…

La policía está usando software para predecir el crimen. ¿Es un "santo grial" o está sesgado contra las minorías?
washingtonpost.com · 2016

Durante un turno de octubre, el sargento de policía de Los Ángeles. Charles Coleman, de la División Foothill, habla con Clarance Dolberry, con una gorra de béisbol, y Veronica De Leon, con una máscara de Mardi Gras, en una parada de autobús…

La vigilancia predictiva viola más de lo que protege: Columna
usatoday.com · 2016

El sistema destinado a aliviar los recursos policiales se dirige desproporcionadamente a las comunidades minoritarias, plantea preocupaciones sobre la Cuarta Enmienda

Una patrulla de la policía de Oakland (Foto: Justin Sullivan, Getty Image…

Por qué la policía de Oakland rechazó la vigilancia predictiva
motherboard.vice.com · 2016

Imagen: Gina Ferazzi/Getty

Tim Birch llevaba seis meses en su nuevo trabajo como jefe de investigación y planificación del Departamento de Policía de Oakland cuando entró en su oficina y encontró un trozo de papel de bloc pegado a la pared.…

La vigilancia predictiva no es tan predictiva como cree
cfr.org · 2017

El problema de la vigilancia siempre ha sido que es posterior al hecho. Si los agentes de la ley pudieran estar en el lugar correcto en el momento correcto, se podría prevenir el crimen, se podrían salvar vidas y la sociedad seguramente ser…

theappeal.org · 2018

La verdad sobre la policía predictiva y la raza

El domingo, el New York Times publicó un artículo de opinión bien intencionado sobre los temores del sesgo racial en la inteligencia artificial y los sistemas policiales predictivos. Se debe e…

IBM utilizó imágenes de vigilancia de la policía de Nueva York para desarrollar una tecnología que permite a la policía realizar búsquedas por color de piel
theintercept.com · 2018

EN LA DÉCADA posterior a los ataques del 11 de septiembre, el Departamento de Policía de la Ciudad de Nueva York se movió para poner a millones de neoyorquinos bajo vigilancia constante. Al advertir sobre amenazas terroristas, el departamen…

Cómo determinamos que el software de vigilancia predictiva se dirigía desproporcionadamente a los vecindarios latinos, negros y de bajos ingresos
gizmodo.com · 2021
Introducción La expansión del mantenimiento de registros digitales por parte de los departamentos de policía de los EE. UU. en la década de 1990 marcó el comienzo de la era de la vigilancia basada en datos. Enormes metrópolis como la ciudad…
El software de predicción de delitos promete estar libre de sesgos. Nuevos datos muestran que los perpetúa
gizmodo.com · 2021

Entre 2018 y 2021, más de uno de cada 33 residentes de EE. UU. estuvo potencialmente sujeto a decisiones de patrullaje policial dirigidas por un software de predicción de delitos llamado PredPol. La empresa que lo fabrica envió más de 5,9 m…

Uso policial de la inteligencia artificial: 2021 en revisión
eff.org · 2022

Hace décadas, al imaginar los usos prácticos de la inteligencia artificial, los escritores de ciencia ficción imaginaron mentes digitales autónomas que podrían servir a la humanidad. Claro, a veces un HAL 9000 o WOPR subvierte las expectati…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents