Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 1526

Incidentes Asociados

Incidente 5417 Reportes
Predictive Policing Biases of PredPol

Loading...
El software de predicción de delitos promete estar libre de sesgos. Nuevos datos muestran que los perpetúa
gizmodo.com · 2021

Entre 2018 y 2021, más de uno de cada 33 residentes de EE. UU. estuvo potencialmente sujeto a decisiones de patrullaje policial dirigidas por un software de predicción de delitos llamado PredPol. La empresa que lo fabrica envió más de 5,9 millones de estas predicciones de delitos a las fuerzas del orden de todo el país, desde California hasta Florida, desde Texas hasta Nueva Jersey, y encontramos esos informes en un servidor no seguro. Gizmodo y The Markup los analizaron y encontraron patrones persistentes. Los residentes de vecindarios donde PredPol sugirió pocas patrullas tendían a ser más blancos y más de ingresos medios a altos. Muchas de estas áreas pasaron años sin una sola predicción de delitos. Por el contrario, era más probable que los vecindarios en los que el software se centró para aumentar las patrullas fueran el hogar de negros, latinos y familias que calificarían para el programa federal de almuerzo gratis oa precio reducido. Estas comunidades no solo fueron atacadas más, en algunos casos, fueron atacadas implacablemente. Los delitos se predijeron todos los días, a veces varias veces al día, a veces en varios lugares del mismo vecindario: miles y miles de predicciones de delitos a lo largo de los años. Algunos vecindarios en nuestros datos fueron objeto de más de 11,000 predicciones. El software a menudo recomendaba patrullas diarias dentro y alrededor de las viviendas públicas y subvencionadas, enfocándose en los más pobres de los pobres. “Comunidades con relaciones problemáticas con la policía: esto no es lo que necesitan”, dijo Jay Stanley, analista principal de políticas en el Proyecto de Tecnología, Privacidad y Discurso de la ACLU. “Necesitan recursos para satisfacer las necesidades sociales básicas”. Sin embargo, el patrón se repitió en casi todos los lugares que miramos: los vecindarios en Portage, Michigan, donde PredPol recomendó que las patrullas de enfoque de la policía tengan nueve veces la proporción de residentes negros que el promedio de la ciudad. Mirando las predicciones en un mapa, el activista local Quinton Bryant dijo: “Simplemente les está dando una razón para patrullar estas áreas que son predominantemente negras, marrones y gente pobre”. En Birmingham, Alabama, donde aproximadamente la mitad de los residentes son negros, las áreas con menos predicciones de delitos son abrumadoramente blancas. Los vecindarios con más tienen aproximadamente el doble de la población latina promedio de la ciudad. “Esta mayor densidad de presencia policial”, dijo Celida Soto García, defensora contra el hambre con sede en Birmingham, “reabre el trauma generacional y contribuye al sufrimiento de estas comunidades”. la población latina promedio de la ciudad. “Esta mayor densidad de presencia policial”, dijo Celida Soto García, defensora contra el hambre con sede en Birmingham, “reabre el trauma generacional y contribuye al sufrimiento de estas comunidades”. En Los Ángeles, incluso cuando las predicciones de delincuencia parecían apuntar a un vecindario mayoritariamente blanco, como el área de Northridge, se agruparon en bloques que son casi 100% latinos. Los vecindarios de la ciudad donde el software recomendó que la policía pasara la mayor parte del tiempo eran desproporcionadamente pobres y más latinos que la ciudad en general. “Estas son las áreas de Los Ángeles que han tenido los mayores problemas de vigilancia policial sesgada”, dijo Thomas A. Saenz, presidente y consejero general del grupo de derechos civiles latinos con sede en Los Ángeles MALDEF. 100% latino. Los vecindarios de la ciudad donde el software recomendó que la policía pasara la mayor parte del tiempo eran desproporcionadamente pobres y más latinos que la ciudad en general. “Estas son las áreas de Los Ángeles que han tenido los mayores problemas de vigilancia policial sesgada”, dijo Thomas A. Saenz, presidente y consejero general del grupo de derechos civiles latinos con sede en Los Ángeles MALDEF. A unas 35 millas a las afueras de Boston, en Haverhill, Massachusetts, PredPol recomendó que la policía concentrara las patrullas en vecindarios que tenían tres veces la población latina y el doble de población de bajos ingresos que el promedio de la ciudad. “Estas son las comunidades a las que servimos”, dijo Bill Spirdione, pastor asociado de Newlife Christian Assembly of God y director ejecutivo de la despensa de alimentos Common Ground. En el suburbio de Chicago de Elgin, Illinois, los vecindarios con la menor cantidad de predicciones de delitos eran más ricos, con una proporción más alta que el promedio de la ciudad de familias que ganan $200,000 al año o más. Los barrios con más predicciones no tenían ni una sola; en cambio, tenían el doble de residentes de bajos ingresos y más del doble del porcentaje de residentes latinos que el promedio de la ciudad. “Lo compararía con la vigilancia del sesgo por poder”, dijo el subjefe del Departamento de Policía de Elgin, Adam Schuessler, en una entrevista. El departamento ha dejado de usar el software. En general, descubrimos que cuantos menos residentes blancos vivían en un área, y cuantos más residentes negros y latinos vivían allí, más probable era que PredPol predijera un crimen allí. La misma disparidad existía entre las comunidades más ricas y las más pobres. En los vecindarios más afectados por el software Prediction, las poblaciones afroamericana y latina eran más altas. sobre vigilancia predictiva. “Esto no es una continuación de la investigación. De hecho, esta es la primera vez que alguien hace esto, lo cual es sorprendente porque la gente ha estado pagando cientos de miles de dólares por esta tecnología durante una década”. Es imposible para nosotros saber con certeza si los oficiales pasaron su tiempo libre en las áreas de predicción, como recomienda PredPol, y si esto condujo a alguna detención, arresto o uso de la fuerza en particular. Los pocos departamentos de policía que respondieron esa pregunta dijeron que no recordaban o que no resultaron en ningún arresto, y la Asociación Nacional de Abogados de Defensa Criminal dijo que sus miembros no están informados cuando el software de predicción de delitos genera cargos. Jumana Musa, directora del Centro de la Cuarta Enmienda de ese grupo, calificó la falta de información como un “obstáculo fundamental” para brindar una defensa justa. “Es como tratar de diagnosticar a un paciente sin que nadie te diga completamente los síntomas”, dijo Musa. "La fiscalía no dice: 'La herramienta que le compramos a esta empresa dijo que deberíamos patrullar aquí'". que ninguno había oído hablar de que fuera parte de un caso. Solo una de las 38 agencias de aplicación de la ley en nuestro análisis, el Departamento de Policía de Plainfield en Nueva Jersey, nos proporcionó más de unos pocos días de datos producidos por PredPol que indicaban cuándo los oficiales estaban en casillas de predicción, y esos datos eran escasos. Nada de eso coincidía perfectamente con los informes de arresto durante ese período, que también fueron proporcionados por la agencia. Encontramos las predicciones de delitos para nuestro análisis a través de un enlace en el sitio web público del Departamento de Policía de Los Ángeles, lo que condujo a un depósito de almacenamiento en la nube abierto que contenía predicciones de PredPol no solo para LAPD sino también para docenas de otros departamentos. Cuando descargamos los datos el 31 de enero de 2021, contenía 7,4 millones de predicciones que datan del 15 de febrero de 2018. El acceso público a esa página ahora está bloqueado. Limitamos nuestro análisis a las agencias de aplicación de la ley de EE. UU. con al menos seis meses de predicciones y eliminamos las predicciones generadas fuera de las fechas del contrato, que probablemente eran períodos de prueba o prueba. Eso dejó 5,9 millones de predicciones proporcionadas a 38 agencias durante casi tres años. Quién usa PredPol PredPol, que se rebautizó como Geolitica en marzo, criticó nuestro análisis por basarse en informes "encontrados en Internet". Pero la empresa no cuestionó la autenticidad de los informes de predicción, que proporcionamos, y reconoció que "parecían haber sido generados por PredPol". El CEO de la compañía, Brian MacDonald, dijo que nuestros datos estaban "incompletos", sin más explicaciones y "erróneos". Los errores, dijo, fueron que un departamento duplicó inadvertidamente algunos turnos, lo que resultó en predicciones adicionales, y que los datos de al menos 20 departamentos en el caché incluían predicciones que se hicieron después del período del contrato y no se entregaron a las agencias. Le explicamos que ya habíamos descubierto discrepancias en las fechas de exactamente 20 departamentos y que no estábamos usando esos datos en nuestro análisis final y nos ofrecimos a compartir las fechas del análisis con él para su confirmación. En su lugar, se ofreció a permitirnos usar el software de forma gratuita en los datos delictivos disponibles públicamente en lugar de informar sobre los datos que habíamos recopilado. Después de que rechazamos, no respondió a más correos electrónicos. Solo 13 de los 38 departamentos respondieron a las solicitudes de comentarios sobre nuestros hallazgos y preguntas relacionadas, la mayoría con una declaración escrita que indica que ya no usan PredPol. Una excepción fue el Departamento de Policía de Decatur en Georgia. “El programa, así como el propio conocimiento de los oficiales sobre dónde ocurre el crimen, ayuda a nuestro departamento a utilizar nuestros recursos de patrulla de manera más eficiente y efectiva”, dijo el oficial de información pública, sargento. John Bender dijo en un comunicado enviado por correo electrónico. Un tercio de los hogares de bajos ingresos de Decatur estaban en un par de vecindarios que fueron objeto de más de 11,000 predicciones de delitos en dos años. A medida que aumentaron las predicciones, el ingreso familiar promedio disminuyó Excepto en Elgin, Illinois, cuyo subjefe calificó el software de "sesgo por poder", ninguna de las 38 agencias que usaron PredPol durante nuestro período de análisis expresó preocupación por las marcadas diferencias demográficas entre los vecindarios que recibieron las predicciones más y menos. Le preguntamos a MacDonald si estaba preocupado por las disparidades raciales y de ingresos. No abordó esas preguntas directamente, sino que dijo que el software reflejaba las tasas de delincuencia informadas, “para ayudar a dirigir los escasos recursos policiales para proteger los vecindarios con mayor riesgo de victimización”. La compañía ha mantenido durante mucho tiempo la posición de que debido a que el software no incluye raza u otra información demográfica en su análisis, eso "elimina la posibilidad de violaciones de derechos civiles o de privacidad que se observan con otros modelos policiales predictivos o basados en inteligencia". Sin embargo, según un artículo de investigación, los cofundadores de PredPol determinaron en 2018 que el algoritmo se habría dirigido a los vecindarios negros y latinos hasta un 400 % más que a los residentes blancos en Indianápolis si se hubiera utilizado allí. MacDonald dijo en su correo electrónico que la compañía no proporcionó el estudio a sus clientes encargados de hacer cumplir la ley porque “era un estudio académico realizado independientemente de PredPol”. Los autores presentaron el artículo en una conferencia de ingeniería que no forma parte del circuito policial habitual, la Conferencia Internacional IEEE 2018 sobre Sistemas, Hombre y Cibernética. Los autores del estudio desarrollaron un ajuste potencial en el algoritmo que, según dijeron, dio como resultado una distribución más uniforme de las predicciones delictivas, pero descubrieron que las predicciones estaban menos en línea con los informes delictivos posteriores, lo que las hacía menos precisas que las originales, aunque todavía "potencialmente más precisas". precisa” que las predicciones humanas. MacDonald dijo que la compañía no ajustó su algoritmo en respuesta. “Tal cambio reduciría la protección brindada a los barrios vulnerables con las tasas de victimización más altas”, dijo. Si bien MacDonald respondió a algunas preguntas escritas por correo electrónico, ninguno de los líderes de la empresa accedió a una entrevista para esta historia. Para usar el algoritmo de PredPol, los departamentos de policía configuran una fuente automática de informes de delitos, que según los expertos y la policía incluyen incidentes informados tanto por el público como por los oficiales, y eligen qué delitos quieren que se pronostiquen. El algoritmo utiliza tres variables para generar predicciones de delitos futuros: la fecha y la hora, la ubicación y el tipo de informes de delitos anteriores. Las predicciones consisten en cuadros de 500 por 500 pies marcados en un mapa que enumeran el turno policial durante el cual es más probable que ocurran los delitos. PredPol aconseja a los oficiales que "se metan en la caja" durante el tiempo libre. Los funcionarios de algunas ciudades dijeron que los oficiales conducían con frecuencia a los lugares de predicción y completaban el papeleo allí. Cómo funciona la vigilancia predictiva En su correo electrónico a Gizmodo y The Markup, MacDonald dijo que la elección de datos de entrada de la empresa garantiza que las predicciones del softare sean imparciales. “Utilizamos los datos delictivos informados a la policía por las propias víctimas”, dijo. “Si le roban su casa o le roban su automóvil, es probable que presente un informe policial”. Pero eso no siempre es cierto, según la Oficina Federal de Estadísticas de Justicia (BJS). La agencia descubrió que solo el 40% de los delitos violentos y menos de un tercio de los delitos contra la propiedad fueron denunciados a la policía en 2020, lo cual está en línea con años anteriores. La agencia ha descubierto repetidamente que las víctimas blancas de delitos tienen menos probabilidades de denunciar delitos violentos a la policía que las víctimas negras o hispanas. En un informe especial que analizó cinco años de datos, BJS también encontró un patrón de ingresos. Las personas que ganan $50,000 o más al año denunciaron delitos a la policía con un 12% menos de frecuencia que las que ganan $25,000 al año o menos. Las víctimas ricas y blancas de delitos violentos tienen menos probabilidades de denunciar a la policía. Esta disparidad en la denuncia de delitos se reflejaría naturalmente en las predicciones. “No existen los datos sobre delitos”, dijo Phillip Goff, cofundador del Center for Policing Equity, una organización sin fines de lucro que se enfoca en el sesgo en la vigilancia. “Solo hay datos de delitos reportados. Y la diferencia entre los dos es enorme”. MacDonald no respondió a las preguntas sobre estos estudios y sus implicaciones, pero los fundadores de PredPol reconocieron en su artículo de investigación de 2018 que los algoritmos de predicción de delitos basados en el lugar pueden centrarse en áreas que ya están recibiendo la atención de la policía, creando un circuito de retroalimentación que conduce a aún más detenciones y más predicciones allí. Examinamos más de 270 000 arrestos en 11 ciudades usando PredPol que nos proporcionó esos registros (la mayoría se negaron) y descubrimos que las ubicaciones con muchas predicciones tendían a tener altas tasas de arresto en general, lo que sugiere que el software recomendaba en gran medida que los oficiales patrullaran las áreas que ya frecuentaban. . Cinco ciudades nos proporcionaron datos sobre el uso de la fuerza por parte de los agentes y encontramos un patrón similar. En Plainfield, las tasas de uso de la fuerza per cápita casi duplicaron el promedio de la ciudad en los vecindarios con la mayoría de las predicciones. En Niles, Illinois, el uso de la fuerza per cápita fue más del doble del promedio de la ciudad en los vecindarios de alta predicción. En Piscataway, Nueva Jersey, la tasa de arrestos fue más de 10 veces mayor que el promedio de la ciudad en esos vecindarios. Arrestos per cápita en relación con el promedio de jurisdicción "Es una razón para seguir haciendo lo que ya están haciendo", dijo Soto García, el activista con sede en Birmingham, "que es decir, 'Esta área apesta'. Y ahora tienen los datos para Pruébalo." Tome el complejo de viviendas de bajos ingresos Buena Vista de 111 unidades en Elgin. Seis veces más personas negras viven en el vecindario donde se encuentra Buena Vista que el promedio de la ciudad. La policía realizó 121 arrestos en el complejo entre el 1 de enero de 2018 y el 15 de octubre de 2020, según los registros proporcionados por la ciudad, muchos por abuso doméstico, varios por órdenes de arresto pendientes y algunos por delitos menores, incluido un puñado por allanamiento. por personas excluidas del complejo. Esos incidentes, junto con las llamadas al 911, alimentaron el algoritmo, según Schuessler, subjefe del Departamento de Policía de Elgin. Como resultado, el software de PredPol predijo que allí ocurrirían robos, delitos con vehículos, robos y delitos violentos todos los días, a veces varias veces al día: 2900 predicciones de delitos durante 29 meses. En comparación, el software solo predijo alrededor del 5% de los delitos, 154, en un área a unas cuatro millas al norte de Buena Vista, donde los residentes blancos son la mayoría. Los vecindarios con la mayor cantidad de predicciones tenían la proporción más baja de residentes blancos. Schuessler dijo que la policía pasó mucho tiempo en Buena Vista debido a un par de programas policiales, no a predicciones de software. La presencia policial frecuente en Buena Vista, independientemente de lo que los condujo allí, tuvo graves consecuencias para una familia. Brianna Hernandez había pasado dos años en una lista de espera para ingresar a Buena Vista. Cuando encontró un aviso de intención de desalojar en su puerta el año pasado, dijo que se echó a llorar en la cocina que ya no sería suya. Era noviembre de 2020. Las tasas diarias de infección por covid-19 en Illinois se habían disparado a un máximo histórico, y los hospitales estaban repletos de enfermos y moribundos. Unos meses antes, el novio de Hernández, Jonathan King, había pasado por Buena Vista para dejar dinero en efectivo para los gastos de ella y sus tres hijos pequeños. Estaba sentado en su automóvil en el estacionamiento, esperando, cuando el oficial Josh Miller de la Unidad de Vivienda Libre de Delitos del departamento de policía pasó en un automóvil sin identificación. "Sabes que se supone que no debes estar aquí, ¿verdad?" King recuerda que Miller le preguntó. La ordenanza de vivienda libre de delitos de la ciudad requiere que todos los contratos de arrendamiento permitan el desalojo si los inquilinos, sus familiares o invitados están involucrados en actividades delictivas, incluso en las cercanías, y permite que la ciudad castigue a los propietarios que no se ocupan de ello. King, que ahora tiene 31 años, dijo que Buena Vista lo había prohibido años antes cuando estaba en libertad condicional por un robo que cometió cuando era menor de edad en Chicago 14 años antes. “Le dijeron que una vez que salieras de la libertad condicional podrías volver”, dijo Hernández. “Aparentemente, eso no sucedió”. Fue el tercer arresto de King por allanamiento de morada en Buena Vista. Corrió hacia él, y cuando los oficiales alcanzaron a King, dijeron que encontraron un arma cerca, que King niega que le pertenezca. Miller lo arrestó por allanamiento de morada y posesión de armas. El arresto se produjo en el momento de una predicción de PredPol, pero Schuessler dijo que eso no fue lo que lo condujo. Ese caso sigue pendiente. "Sé que está prohibido, pero ¿qué puede hacer un hombre?" preguntó Hernández. Tiene hijos. Ella dijo que el arresto condujo al aviso de desalojo de Buena Vista. (Buena Vista no lo confirmó ni lo negó). Hernández recuerda que sus hijos de 4 y 5 años preguntaron: "¿Por qué vamos a un hotel?" y luchando por una respuesta. “Quieren saber por qué estamos sacando cosas. Por qué esto y por qué aquello…. Quería sentarme y llorar”. Robert Cheetham, el creador de un competidor de PredPol, HunchLab, dijo que luchó con el círculo vicioso que podrían crear los algoritmos de predicción de delitos. “Sentimos que este tipo de decisiones de diseño importaban”, dijo. “Queríamos evitar una situación en la que las personas usen los mapas del área de patrulla como una excusa para estar demasiado cerca y de una manera que no necesariamente sería útil”. Dijo que su compañía trató de resolver el problema igualando la cantidad de predicciones entregadas a cada vecindario. Los defensores en al menos seis ciudades con las que hablamos no sabían que el software se usaba localmente. Incluso aquellos involucrados en los comités de justicia social organizados por el gobierno dijeron que no tenían ni idea al respecto. “No surgió en nuestras reuniones”, dijo Kenneth Brown, pastor de la Iglesia Bautista Calvary de Haverhill, predominantemente negra y latina, quien presidió un grupo de trabajo sobre diversidad e inclusión en toda la ciudad el año pasado. Calcasieu Parish, La., que comenzó a recibir predicciones el 9 de abril de 2019, se negó a confirmar que estaba usando el software. Robert McCorquodale, un abogado de la oficina del alguacil que se encarga de las solicitudes de registros públicos, citó "la seguridad pública y la seguridad de los oficiales" como las razones y dijo que, hipotéticamente, no querría que los posibles delincuentes burlaran el software. “No confieso ser un experto en esta área”, dijo, “pero siento que esto no es un registro público”. Mantuvimos a Calcasieu en nuestros datos porque sus predicciones comenzaron a la mitad de nuestro período de análisis y continuaron hasta el final, lo que sugiere que es un nuevo cliente legítimo. Las predicciones de Calcasieu no estaban entre las más dispares en nuestros datos, y eliminarlas no alteraría significativamente los resultados de nuestro análisis. Gizmodo y The Markup también descubrieron que algunas agencias policiales estaban usando el software para predecir los delitos que PredPol desaconseja. Estos incluyen delitos de drogas, que la investigación ha demostrado que no se aplican por igual, y delitos sexuales, los cuales MacDonald dijo que la compañía aconseja a los clientes que no traten de predecir. Sin embargo, encontramos cuatro municipios que usaron PredPol para predecir delitos relacionados con drogas entre 2018 y 2021: el condado de Boone, Indiana; Niles, Illinois; Piscataway, Nueva Jersey; y Clovis, California. Clovis también fue uno de los tres departamentos que utilizaron el software para predecir agresiones sexuales. Los otros dos fueron Birmingham y Fort Myers, Florida. Cuando le preguntamos a MacDonald al respecto, dijo que las agencias policiales toman sus propias decisiones sobre cómo usar el software. “Brindamos orientación a las agencias en el momento en que las configuramos y les decimos que no incluyan tipos de eventos sin una victimización clara que pueda incluir la discreción del oficial, como delitos relacionados con drogas”, escribió. “Si deciden agregar otros tipos de eventos más adelante, eso depende de ellos”. Thomas Mosier, el jefe de policía de Piscataway, dijo en una entrevista que no recuerda haber recibido instrucciones sobre no predecir ciertos tipos de delitos. Las otras agencias se negaron a comentar al respecto o ignoraron nuestras preguntas por completo. Casi todas las agencias también combinaron tipos de delitos fundamentalmente diferentes en una sola predicción. Por ejemplo, las autoridades de Grass Valley, California, combinaron agresiones y delitos con armas con robos comerciales y accidentes automovilísticos. MacDonald dijo, "la investigación y los datos respaldan el hecho de que múltiples tipos de delitos pueden concentrarse en puntos críticos de delincuencia específicos". Christopher Herrmann, criminólogo del John Jay College of Criminal Justice, no estuvo de acuerdo. “El crimen es muy específico”, dijo Herrmann. “Un asesino en serie no se va a despertar un día y empezar a robar a la gente o empezar a robar coches o vender drogas. El ladrón en serie no va a empezar a robar coches. Un violador en serie no va a empezar a robar a la gente”. Un estudio que analizó los patrones delictivos en Filadelfia encontró que "los puntos críticos de diferentes tipos de delitos no se superponen mucho", y un libro de 2013 sobre vigilancia policial predictiva publicado por RAND Corporation recomendó no mezclar delitos para las predicciones. Cuando les preguntamos a los departamentos de policía que realizaron arrestos en el momento y en el lugar de las predicciones de PredPol si el software los había llevado a los lugares, por lo general no comentaron. Corey Moses, por ejemplo, fue detenido por LAPD el 11 de febrero de 2019 por fumar un cigarrillo Newport en un área para no fumadores cerca de una estación de tren en MacArthur Park durante el período de predicción de delitos allí. El oficial buscó el nombre de Moses y descubrió que tenía una orden de arresto por una multa no pagada por evasión de tarifas. Moisés fue esposado, registrado y encarcelado por la noche. “A veces realmente tienes que estar haciendo cosas estúpidas para que la policía te moleste, y otras veces no”, dijo Moses, quien es negro y tiene 41 años. “Puedes estar en el lugar equivocado en el momento equivocado”. LAPD no respondió a las preguntas sobre si el oficial estaba respondiendo a una predicción de PredPol. No intentamos determinar con qué precisión PredPol predijo los patrones delictivos. Su principal promesa es que los oficiales que respondan a las predicciones prevengan delitos con su presencia. Pero varios departamentos de policía abandonaron el software de PredPol en los últimos años, diciendo que no lo encontraban útil o que no podían juzgar su eficacia. Estos incluyen Piscataway; West Springfield, Massachusetts; y Los Ángeles, Milpitas y Tracy, California. “A medida que pasaba el tiempo, nos dimos cuenta de que PredPol no era el programa que pensábamos que era cuando comenzamos a usarlo”, dijo el jefe de personal del Departamento de Policía de Tracy, sargento. Craig Koostra dijo en una declaración escrita. No respondió a una solicitud de dar más detalles. Algunas agencias se amargaron con el software rápidamente. En 2014, un año después de registrarse, el teniente del Departamento de Policía de Milpitas, Greg Mack, escribió en una evaluación que el software “requería mucho tiempo y era poco práctico” y no encontró evidencia de que su uso redujera significativamente las tasas de criminalidad. En su correo electrónico, MacDonald se negó a proporcionar la cantidad de clientes que la empresa tiene ahora o tuvo durante el período de análisis, pero afirmó que la cantidad de agencias de aplicación de la ley de EE. UU. en nuestro conjunto de datos no era un recuento exacto de sus clientes desde 2018. De los 38 Según nuestro análisis, solo 15 de los organismos encargados de hacer cumplir la ley de EE. UU. siguen siendo clientes de PredPol, y dos de ellos dijeron que ya no usan el software, a pesar de haberlo pagado. Incluso el socio original de PredPol, LAPD, dejó de usarlo el año pasado. El departamento dijo que fue una decisión financiera. Pero se produjo después de que el inspector general de LAPD dijera que no podía determinar si el software era efectivo y los miembros de la Coalición Stop LAPD Spying protestaron en una reunión de la comisión policial, agitando carteles que decían "Policía basada en evidencia basada en datos = pseudociencia" y "Datos de delitos". es racista”. El resultado fue el final de una relación iniciada con el exjefe de policía Bill Bratton, quien había enviado a uno de sus lugartenientes a la UCLA para encontrar investigaciones interesantes que pudieran aplicarse a la lucha contra el crimen. Se encontró con P. Jeffrey Brantingham, un antropólogo cuyo trabajo inicial involucró la creación de modelos sobre cómo los pueblos antiguos se asentaron por primera vez en la meseta tibetana. "Cada vez que las matemáticas interactúan con una nueva disciplina, se fortalecen y renuevan", escribió Brantingham y el cofundador de PredPol, George Mohler, ahora científico informático en la Universidad de Indiana-Universidad Purdue de Indianápolis, en una solicitud de subvención de la Fundación Nacional de Ciencias en 2009. Brantingham's los padres eran académicos pioneros en el campo de la criminología ambiental, el estudio de la intersección de la geografía y el crimen. Y dijo que aprendió mucho a sus pies. “No me di cuenta, pero estaba acumulando conocimientos por ósmosis, escuchando sobre delitos y conductas delictivas mientras pasaba tiempo con mis padres”, dijo Brantingham en un perfil de 2013 en el periódico estudiantil de la UCLA. “Los delincuentes son efectivamente forrajeadores”, agregó. “Elegir qué auto robar es como elegir qué animal cazar”. En colaboración con los detectives de robos de LAPD, Brantingham y Mohler desarrollaron un algoritmo para predecir los delitos contra la propiedad y lo probaron. Se le atribuyó la reducción de los delitos contra la propiedad en un 9% en la división que lo usa, mientras que estos delitos aumentaron en un 0,2% en el resto de la ciudad. La investigación académica que condujo a PredPol fue financiada con más de $1,7 millones en subvenciones de la Fundación Nacional de Ciencias. UCLA Ventures y un par de ejecutivos del fabricante de auriculares para teléfonos Plantronics invirtieron $3,7 millones entre 2012 y 2014 para financiar la incipiente empresa comercial. Casi al mismo tiempo, el Departamento de Justicia de los EE. UU. comenzó a alentar a las agencias de aplicación de la ley a experimentar con la vigilancia predictiva. Ha otorgado subvenciones a al menos 11 ciudades desde marzo de 2009, incluidos los clientes de PredPol en Newark, Nueva Jersey; terraza del templo, florida; Carlsbad y Alhambra, California; y LAPD, que recibió $3 millones para varios proyectos. Pero PredPol ahora ha perdido brillo en los círculos académicos: el año pasado, más de 1400 matemáticos firmaron una carta abierta rogando a sus colegas que no colaboraran en la investigación con las fuerzas del orden, señalando específicamente a PredPol. Entre los firmantes había 13 profesores, investigadores y estudiantes de posgrado de la UCLA. MacDonald, a su vez, criticó a los críticos. “Parece irresponsable que toda una profesión diga que no cooperará de ninguna manera para ayudar a proteger a las comunidades vulnerables”, escribió en su correo electrónico a Gizmodo y The Markup. Ferguson, el profesor de la Universidad Americana, dijo que cualquiera que sea el futuro de PredPol, las predicciones de delitos hechas por software están aquí para quedarse, aunque no necesariamente como un producto independiente. Más bien, dijo, se está convirtiendo en parte de un buffet de ofertas de datos policiales de firmas tecnológicas más grandes, incluidas Oracle, Microsoft, Accenture y ShotSpotter, que usa detección de sonido para informar disparos y compró el software de predicción de delitos HunchLab. Cuando nos pusimos en contacto con esas empresas para obtener comentarios, todas excepto Oracle, que se negó a comentar, se distanciaron con la vigilancia predictiva, a pesar de que en el pasado todas ellas habían presentado o publicitado sus productos y HunchLab era un competidor de PredPol. El nombre original de PredPol se formó a partir de las palabras predictivo y vigilancia, pero incluso ahora se está distanciando del término (MacDonald lo llamó un "nombre inapropiado") y se está ramificando hacia otros servicios de datos, cambiando su enfoque al monitoreo de oficiales de patrulla durante su renombrando este año como Geolitica. Y ese también era el punto de Ferguson. “Estas grandes empresas que van a tener los contratos de [plataformas de datos] policiales van a hacer análisis predictivos”, dijo Ferguson. “Simplemente no lo van a llamar vigilancia policial predictiva”, agregó. “Y va a ser más difícil de separar para periodistas y académicos”. Lea el análisis completo revisado por pares en el que se basa este informe aquí.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd