Incidentes Asociados
Chicago es líder en el uso de vigilancia predictiva, el uso de datos y algoritmos para informar su estrategia general y la toma de decisiones sobre el terreno. Una de esas herramientas que se ha utilizado desde 2012 es la Lista de sujetos estratégicos, un modelo informático que pretende identificar qué habitantes de Chicago tienen más probabilidades de estar involucrados en la violencia, ya sea como víctima o perpetrador.
La idea del SSL, dicen los funcionarios de la ciudad, es usar datos y tecnología para resolver algunos de los problemas más difíciles de la ciudad. La violencia con armas de fuego es uno de ellos: este julio se produjeron 76 muertes por armas de fuego, lo que puso a la ciudad en camino de superar la cifra de homicidios del año pasado. Los usos oficiales conocidos del SSL, que asigna a las personas una puntuación de 1 a 500, son conectar a las personas con los servicios sociales y servir como un [“recurso de investigación” para la policía] (http://directives.chicagopolice.org/directives /data/a7a57b85-155e9f4b-50c15-5e9f-7742e3ac8b0ab2d3.html?hl=true)[ce](http://directives.chicagopolice.org/directives/data/a7a57b85-155e9f4b-50c15-5e9f-7742e3ac8b0ab2d3.html?hl =verdadero).
Si todo esto suena vago, es porque hay muy poca información disponible sobre cómo la policía está usando la lista. Cuando se les pidió que proporcionaran detalles sobre qué servicios sociales se ofrecen y cómo, o cómo SSL podría ayudar en las investigaciones, los funcionarios de la ciudad y de la policía se negaron a comentar o remitieron a los reporteros a otras personas que no pudieron responder. En un análisis de la revista Chicago, los documentos oficiales de la policía contradicen múltiples afirmaciones hechas por funcionarios de la ciudad, y algunos funcionarios se contradijeron entre sí o contradijeron la poca información pública disponible.
El Departamento de Policía de Chicago luchó para mantener la lista en secreto hasta este verano, cuando perdió una larga disputa legal con el Sun-Times y [se vio obligado a publicar una versión de la base de datos](//chicago.suntimes.com/politics/what -gets-people-on-watch-list-chicago-police-fought-to-keep-secret-watchdogs/) basado en registros de arrestos de agosto de 2012 a julio de 2016. Entre las principales conclusiones: solo el 3.6 por ciento de las personas en el SSL fueron “parte de la violencia”, lo que significa que han estado involucrados en un tiroteo o asesinato como víctima o como agresor.
Hasta ahora, solo se ha realizado un análisis independiente del SSL; en un estudio publicado a principios de este año, RAND Corporation dijo que el programa tuvo poco impacto sobre la violencia. En ese momento, los oficiales de policía dijeron que la versión de SSL utilizada por la policía había cambiado significativamente desde la versión de 2013 analizada por RAND, pero [no proporcionó detalles] (http://4abpn833c0nr1zvwp7447f2b.wpengine.netdna-cdn.com/wp- content/uploads/2016/08/RAND_Response-1.pdf) sobre cómo.
Este secreto es una de las razones por las que la herramienta ha aparecido en los titulares nacionales y ha generado comparaciones con la película distópica de Tom Cruise Minority Report, donde la policía usa tecnología para predecir delitos y arrestar a personas antes de que los cometan. “Esto es básicamente la toma de decisiones del gobierno entregada a un algoritmo sin ninguna transparencia al respecto”, dice Karen Sheley, directora del Proyecto de Prácticas Policiales de la Unión Estadounidense de Libertades Civiles de Illinois.
En el pasado, [el superintendente de policía Eddie Johnson dijo que SSL ayudó al CPD] (http://chicago.suntimes.com/chicago-politics/what-gets-people-on-watch-list-chicago-police-fought -to-keep-secret-watchdogs/) se vuelven "muy buenos para predecir quiénes serán los perpetradores o las víctimas de la violencia armada", y los funcionarios se han duplicado al decir que el SSL es solo una herramienta de evaluación de riesgos.
La revista Chicago profundizó en cinco hallazgos sobre la lista.
1. La policía dice que no está usando la lista para interrogar o arrestar a personas, pero los documentos oficiales muestran lo contrario
Frank Giancamilli, portavoz de CPD, dijo en una respuesta por correo electrónico el 4 de agosto que la lista era “simplemente una herramienta que calcula el riesgo” y “no se usa para hacer cumplir la ley y no establece una causa probable para el arresto o incluso el interrogatorio”.
Pero los documentos muestran que tendrá un impacto significativo en las acciones policiales sobre el terreno. En un contrato aprobado en febrero pasado para aumentar el uso de CPD de estrategias basadas en datos en la aplicación, El "análisis predictivo y SSL" se describen como el impulsor de una "revisión total" planificada de las asignaciones de misiones para un programa piloto en dos distritos policiales. Eso podría incluir, por ejemplo, sargentos de distrito [que deciden qué áreas reciben unidades especializadas o autos de respuesta rápida] verdadero).
Incluso antes de que se firmara este contrato, el departamento usó múltiples comunicados de prensa para resaltar los arrestos de personas en el SSL, una posición que es contraria a las afirmaciones de que la lista se usa para ayudar a rehabilitar a las personas, disuadirlas de actividades delictivas y conectarlas con redes sociales. servicios. Los comunicados de prensa enumeran regularmente la cantidad de personas arrestadas, la naturaleza de los cargos y la cantidad de arrestados con puntajes SSL. Si bien el departamento ha insistido en que la lista no se usa para hacer cumplir la ley, rechazó una solicitud de registros públicos del Sun-Times para la lista, [alegando que "los delincuentes aún podrían usar la lista para 'frustrar' a la policía".](http:/ /chicago.suntimes.com/chicago-politics/what-gets-people-on-watch-list-chicago-police-fought-to-keep-secret-watchdogs/) Cómo los delincuentes "frustrarían" a la policía en el uso de un La herramienta que han declarado es solo para la extensión del servicio social no se aclaró.
Desde finales de junio, el Departamento de Policía de Chicago y un portavoz de la ciudad de Chicago no respondieron a las repetidas solicitudes de comentarios por correo electrónico, así como a varias llamadas telefónicas, sobre cómo implementarán los recursos basados en SSL.
2. Los datos sugieren que más personas en el SSL están siendo arrestadas de las que se acercan a los servicios sociales
El alcance del servicio social basado en SSL es administrado por el programa de notificaciones personalizadas en John Jay College. El programa está bajo el paraguas de la Estrategia de Reducción de la Violencia de Chicago, un modelo de intervención de la violencia muy parecido al utilizado por CeaseFire (CeaseFire en sí, y su grupo matriz Cure Violence, no están afiliados a SSL), que emplea a cuatro miembros del personal de John Jay College para aplicar el marco de intervención del grupo sobre el terreno en Chicago.
Según el director ejecutivo del programa de Estrategia para la Reducción de la Violencia de Chicago, Chris Mallette, el programa envía policías, miembros de la comunidad y amigos personales para convencer a una persona (típicamente afiliada a una pandilla) de que está arriesgando su vida o su libertad al estar involucrado en violencia “El objetivo principal es llegar a quiénes son las personas atractivas en este momento y quiénes creemos que lo serán en el futuro”, dice, y señala que el SSL es solo una parte de esa ecuación, pero que “todo el mundo con el que hablamos tiene una puntuación decente o alta en la lista de materias estratégicas”.
En un [informe que describe estrategias para notificaciones personalizadas] (https://nnscommunities.org/uploads/GVI_Custom_Notifications_Guide.pdf) del Departamento de Justicia, se cita el programa de Chicago como ejemplo para usar [análisis de redes sociales] (https://www. chicagomag.com/city-life/May-2017/How-Violence-Cascades-Through-Chicago/) para determinar los "actores de impacto" (las personas más responsables de generar violencia) como objetivos de intervención. Sin embargo, la evaluación RAND del programa encontró esta estrategia ineficaz. En una respuesta a la evaluación RAND, CPD declaró que el modelo SSL había cambiado, alejarse de mirar las redes sociales para mirar solo las interacciones de un individuo con las fuerzas del orden.
Independientemente, la policía se ha negado a publicar datos sobre cuántas personas están involucradas en el programa de Notificaciones personalizadas. Una solicitud de libertad de información de Freddy Martínez, un activista de datos que dirige la organización sin fines de lucro Lucy Parsons Labs, reveló que en 2016 se intentaron 1024 notificaciones, se completaron 558 y solo 26 personas asistieron a una llamada en la que agentes de policía, trabajadores sociales y otros ofrecen servicios de apoyo. (Cada uno de los intentos de notificación, dice Mallette, podría implicar una visita a la casa de alguien. Mientras tanto, una notificación completa incluiría una reunión cara a cara). El departamento deja en claro que para aquellos que han interactuado con las Notificaciones personalizadas y luego son acusados de un delito, “se presentarán los cargos más altos posibles”.
Para poner esto en perspectiva, CPD ha declarado que 280 personas con puntajes SSL fueron arrestadas en cuatro redadas de pandillas durante un período de seis meses en 2016.
3. El 56 por ciento de los hombres negros en la ciudad de 20 a 29 años tienen un puntaje SSL
La publicación de datos más reciente sobre SSL mostró que a casi 400,000 personas se les asignaron puntajes en la lista, utilizando principalmente ocho variables: edad, la cantidad de veces que un individuo recibió disparos, la cantidad de veces que fueron víctimas de asalto o agresión, pandillas afiliación, arrestos por delitos violentos, drogas o armas, y si alguien está siendo arrestado con más frecuencia con el tiempo.
(Si bien la afiliación a pandillas fue un factor en los datos originales publicados por el Sun-Times en mayo, la oficina del alcalde dijo que la versión más reciente de este verano aparentemente no lo hace. Por otro lado, en agosto, CPD confirmó por correo electrónico a Chicago que la base de datos de pandillas fue uno de los ocho factores utilizados en el algoritmo).
El Departamento de Policía de Chicago ha declarado que las entradas no incluyen la raza, el sexo o la ubicación, y que las puntuaciones resultantes no sobrestiman ni subestiman el riesgo de ninguna demografía específica. Aún así, las salidas muestran patrones definidos. La mayoría de los hombres negros en Chicago de 20 a 29 años tienen un puntaje SSL, lo que significa que el 56 por ciento de ellos se considera en riesgo de participar en la violencia de alguna manera.
Kade Crockford, director del Programa Tecnología para la Libertad en la Unión Estadounidense de Libertades Civiles de Massachusetts y [bloguero habitual sobre vigilancia y tecnología] (https://privacysos.org/blog/), dice que la ACLU se muestra escéptica ante las afirmaciones policiales de que la lista es imparcial. “En Chicago, al igual que en otras grandes áreas metropolitanas de los Estados Unidos, la policía ha prestado especial atención a los jóvenes negros”, dice Crockford. “El peligro con la adición de tecnología es que algunas personas piensan que debido a que una computadora les ha dicho que perfilen a un grupo de jóvenes negros, esto es neutral en cuanto a raza y no podría ser un programa racialmente discriminatorio”.
Crockford dice que los programas informáticos y los algoritmos están tan sesgados como las personas que los crean, citando ejemplos como los programas de reconocimiento facial creados por programadores blancos [que no pueden reconocer a las personas negras y] (https://www.recode.net/2017/ 1/18/14304964/data-facial-recognition-trouble-recognizing-black-white-faces-diversity) cómo [los algoritmos de Facebook que determinan el discurso de odio favorecen a los hombres blancos sobre los niños negros.](https://www.propublica.org /article/facebook-hate-speech-censorship-internal-documents-algorithms)
La ciudad ha rechazado múltiples solicitudes para aclarar qué les sucede a las personas que están en la lista o tienen un número alto de SSL, aunque los documentos mencionados anteriormente indican que se puede desplegar más policía en áreas donde las personas tienen puntajes altos de SSL.
4. La lista se basa en arrestos, no en condenas
La lista utiliza los cuatro años más recientes de registros de arrestos de CPD, en lugar de condenas, como entrada para el SSL, lo que significa que las personas pueden terminar en la lista por delitos que no han cometido.
Convicted in Cook, un proyecto del Proyecto de Obras Cívicas de Smart Chicago Collaborative, revisó los casos de delitos graves presentados en el Tribunal del Condado de Cook entre 2005 y 2009 y descubrió que alrededor del 6 por ciento de los casos de delitos graves presentados nunca terminaron en una condena. El número es relativamente bajo pero aún significativo. Además, alrededor del 90 por ciento de las condenas por delitos graves en todo el país son el resultado de un acuerdo de culpabilidad, [un tema de controversia] (http://www.nybooks.com/articles/2014/11/20/why-innocent-people-plead-guilty/ ) entre los reformadores de la justicia penal.
Además, a Crockford y otros activistas les preocupa que las personas que han cumplido su condena sigan bajo sospecha. “Incluso cuando las personas terminaron sus oraciones y cumplieron su tiempo”, dice Crockford, la lista muestra que “nunca se puede escapar realmente de las consecuencias colaterales. Hace que sea realmente difícil imaginar cómo alguien puede escapar del sistema penal”.
También sabemos que existe un sesgo racial en las tasas de arrestos. Por ejemplo, mientras que los blancos y los negros consumen drogas a un ritmo similar, [los últimos son arrestados y encarcelados a tasas mucho más altas por delitos relacionados con las drogas] (https://www.themarshallproject.org/2016/02/25/highlights -from-our-justice-talk-on-predictive-policing#.nLw0E7yTc), incluso en Chicago, donde los políticos han [intentado frenar los arrestos por drogas de bajo nivel] (https://www.chicagoreader.com/chicago/marijuana- despenalización-arrestos-emisión de entradas-carrera-investigación/Content?oid=26258364).
5. Los arrestos se concentran en áreas que ya están muy vigiladas
El patrón general de cumplimiento en Chicago es que más oficiales patrullar el lado sur y oeste de minorías y de bajos ingresos de la ciudad que otras áreas de la ciudad.
Si bien es posible que la información geográfica no se incluya directamente en la Lista de temas estratégicos, los datos muestran que los arrestos más recientes de personas con un puntaje de SSL se asignan directamente a las áreas que están fuertemente vigiladas, como se evidencia a través de "tarjetas de contacto", los formularios que la policía llenar después de una parada en la calle.
Eso crea un ciclo preocupante: ¿La policía está usando puntajes SSL para determinar dónde se asignan los oficiales, lo que luego conduce a más arrestos y puntajes SSL más altos? Sin más información del departamento de policía sobre cómo la policía usa los datos, no podemos saberlo.
A medida que la policía predictiva ha ganado fuerza en todo el país, Chicago se mantiene a la vanguardia. El SSL es un ejemplo complejo de lo que sucede cuando los datos se usan para evaluar el comportamiento humano y si el público puede determinar cómo la policía usa esa información.
Para Miles Wernick, jefe del equipo de investigadores del Instituto de Tecnología de Illinois que creó el algoritmo en el que se basa el SSL, es importante que la gente entienda que el interés inicial de la lista estaba en el alcance de los servicios sociales más que en cualquier otro. medidas punitivas. “Es realmente fundamental que cuando las personas usen este tipo de herramientas, las usen de manera apropiada”, dice Wernick. “Nunca debe usarse para arrestar a personas, acosar a personas o tomar cualquier tipo de acción punitiva basada en algún algoritmo informático”.