Incidentes Asociados
La “vigilancia predictiva” está sucediendo ahora, y la policía podría aprender una lección de Minority Report.
David Robinson Bloqueado Desbloquear Seguir Siguiendo 31 de agosto de 2016
En la película Minority Report, los mutantes en una tina miran hacia el futuro y le dicen a Tom Cruise quién está a punto de cometer un crimen, para que pueda arrestar al delincuente antes de que ocurra el crimen. Alerta de spoiler: resulta que esos adivinos mutantes no son infalibles, pero la policía los trata como si lo fueran. La fe ciega de las fuerzas del orden en una herramienta que no siempre funciona, una herramienta que fácilmente puede señalar a la persona equivocada, con resultados terribles, proporciona la tensión central para esa película taquillera.
La policía real ahora corre el riesgo de cometer un error similar. Pero esta vez los resultados están en la calle, no en la taquilla. Los policías de hoy no confían en los adivinos, pero utilizan cada vez más software para pronosticar dónde pueden ocurrir futuros delitos o quién puede estar involucrado. Y no son lo suficientemente escépticos de los pronósticos que están haciendo esas computadoras.
Hoy, una coalición nacional de 17 grupos de defensa está dando la alarma sobre esto, con una declaración compartida que destaca seis formas en que esta tendencia amenaza los derechos civiles.
Todos estos grupos están de acuerdo: la carrera actual hacia la vigilancia predictiva es incorrecta.
Upturn, donde trabajo, ayudó a redactar la nueva declaración, y hoy publicamos un informe diseñado para permitirle ir más allá de la exageración y tomar una decisión sobre lo que la industria llama "vigilancia predictiva". Como autor principal de ese informe, esto es lo que me gustaría que supiera.
La policía puede fácilmente confiar demasiado en estas herramientas.
Las personas a menudo sobrestiman la precisión, la objetividad y la confiabilidad de la información que proviene de una computadora, incluso de un sistema de control predictivo. La Corporación RAND, que ha realizado los mejores estudios hasta la fecha, es un tipo de lugar famoso por ser discreto. Pero están tan molestos por este problema como yo. Escriben: “[L]a vigilancia policial predictiva ha sido tan publicitada que la realidad no puede estar a la altura de la hipérbole. Existe una suposición errónea subyacente de que el poder matemático y computacional avanzado es necesario y suficiente para reducir el crimen [pero de hecho] las predicciones son tan buenas como los datos utilizados para hacerlas”.
Los datos policiales sobre el crimen pintan una imagen distorsionada, que fácilmente puede conducir a patrones policiales discriminatorios.
Estos sistemas solo predicen qué delitos detectará la policía en el futuro, y eso crea una imagen distorsionada. Como dijo una vez un eminente criminólogo, “[s]e sabe desde hace más de 30 años que, en general, las estadísticas policiales son medidas deficientes de los niveles reales de delincuencia”.
En el contexto de la vigilancia predictiva, las estadísticas generadas por el proceso policial a menudo se tratan como si fueran registros del comportamiento delictivo subyacente. Pero estos números son un registro directo de cómo las fuerzas del orden responden a delitos particulares, y son solo evidencia indirecta de lo que realmente está sucediendo en el mundo. Los criminólogos argumentan que “los datos de arrestos, condenas y encarcelamientos se consideran más apropiadamente como medidas de respuesta oficial al comportamiento delictivo”.
Por supuesto, tiene sentido que la policía responda a las necesidades de la comunidad. Diferentes comunidades atendidas por el mismo departamento de policía a menudo tienen diferentes necesidades y diferentes niveles de necesidad. Eso significa que los oficiales verán más de lo que sucede en algunos vecindarios que en otros. Pero es peligroso tratar los resultados de ese proceso como si fueran un reflejo completamente neutral del mundo.
Como explica la científica de datos Cathy O'Neil, "la gente tiene demasiada confianza [en que] los números [serán] intrínsecamente objetivos".
En lugar de cambiar sus tácticas, la policía que utiliza herramientas de predicción ha tendido a concentrarse en generar más citaciones y arrestos. Leí todo lo que pude encontrar sobre cómo la policía realmente usa herramientas de vigilancia predictiva. La respuesta consistente fue que la policía no está siendo guiada hacia tácticas diferentes o más humanas. En cambio, donde la computadora dice que se concentre, la policía hace más control. Lo que empeora el problema de los datos.
Los datos podrían usarse de manera que fortalezcan los derechos civiles, pero estamos perdiendo esa oportunidad.
Esto, para mí, es una de las cosas más emocionantes que encontramos en nuestra investigación. Para citar de nuestro informe:
En la mayor parte del país, la policía actualmente mide los resultados y evalúa el desempeño basándose solo en algunas de las actividades, costos y beneficios que importan en la vigilancia...
Los delitos violentos graves siempre serán importantes. Pero el crimen violento no refleja el alcance completo de las preocupaciones de la comunidad...
[E]xpertos en la medición del desempeño policial han argumentado durante mucho tiempo que la policía debe rastrear todos los usos de la autoridad coercitiva para que puedan promover mejor la seguridad pública con la mínima coerción…. Y la investigación sobre la medición del desempeño de la policía constantemente requiere encuestar a las víctimas para recopilar sus comentarios sobre los oficiales de policía con los que interactúan.
Más allá del objetivo básico de la vigilancia policial legal y constitucional, la medición de factores como estos podría permitir que la política