Incidentes Asociados
Lo que [ShotSpotter] (https://www.techdirt.com/company/shotspotter/) presenta como buenas noticias para las personas que sienten que han sido acusadas injustamente, en realidad no parece ser tan reconfortante.
La tecnología de micrófonos y la inteligencia artificial de ShotSpotter combinan fuerzas para informar posibles disparos a los clientes de las fuerzas del orden. Es muy impredecible, dijo con todos los juegos de palabras posibles. ShotSpotter dice [es casi 100 % preciso](https://www.shotspotter.com/shotspotter-responds-to-false-claims/#:~:text=This%20is%20absolutely%20false.,over%20the%20last %20tres%20años.) y puede desempeñar un papel importante en la reducción de los delitos con armas de fuego.
Clientes reales [di algo más](https://www.techdirt.com/2021/08/09/cities- looking-to-dump-shotspotter-since-barely-more-useful-than-doing-nothing-all/ ):
Una investigación de 2013 sobre la eficacia de ShotSpotter en Newark , Nueva Jersey, reveló que entre 2010 y 2013, los sensores del sistema alertaron a la policía 3632 veces, pero solo condujeron a 17 arrestos reales. Según la investigación, el 75% de las alertas de disparos fueron falsas alarmas.
97% de precisión? No es lo que hemos visto, dice el Departamento de Policía de San Diego:
Un portavoz del Departamento de Policía de San Diego [le dijo a Voice of San Diego](https://www.voiceofsandiego.org/topics/public-safety/shotspotter-sensors-send-sdpd-officers-to-false-alarms-more-often -de lo anunciado/) que durante los cuatro años que ShotSpotter estuvo en uso (a partir de septiembre de 2020), los oficiales habían realizado solo dos arrestos en respuesta a una alerta y solo uno de ellos estaba directamente relacionado con la alerta.
Mientras tanto, se determinó que 72 de las 584 alertas de ShotSpotter durante ese período de tiempo eran infundadas, "la friolera de 25 veces más que la tasa de falsos positivos del 0.5 por ciento presentada por la compañía", informó Voice of San Diego, según los datos proporcionados. por el departamento de policía de la ciudad.
Dejando de lado la precisión, [puede ayudar](https://www.techdirt.com/2021/08/26/chicago-pd-oversight-says-shotspotter-tech-is-mostly-useless-when-it-comes-to -lucha contra el crimen armado/) reducir la violencia armada y los actos delictivos vinculados a las armas de fuego? [Nuevamente, la respuesta es no](https://igchicago.org/2021/08/24/oig-finds-that-shotspotter-alerts-rarely-lead-to-evidence-of-a-gun-related-crime -y-que-la-presencia-de-la-tecnología-cambia-el-comportamiento-policial/).
La sección de Seguridad Pública de la Oficina del Inspector General (OIG) de la Ciudad de Chicago ha emitido un informe sobre el uso que hace el Departamento de Policía de Chicago (CPD) de la tecnología acústica de detección de disparos ShotSpotter y la respuesta del CPD a las notificaciones de alerta de ShotSpotter. La OIG concluyó a partir de su análisis que rara vez se puede demostrar que las respuestas de la CPD a las alertas de ShotSpotter conducen a detenciones de investigación que podrían tener valor investigativo y rara vez producen evidencia de un delito relacionado con armas.
Eso no significa que la policía de Chicago no crea que la tecnología sea útil. En Chicago, a los oficiales todavía les gusta ShotSpotter pese a su inexactitud porque les permite hacer el tipo de cosas que quieren hacer.
Al revisar las narrativas de ISR [informe de detención de investigación] para las menciones de alertas de ShotSpotter, la OIG también identificó 10 ISR (13,9 %) en los que los oficiales de informes se refirieron a los resultados agregados del sistema ShotSpotter como información para tomar la decisión de iniciar una detención o su curso de acción durante la parada, incluso cuando no estaban respondiendo a una alerta específica de ShotSpotter. Por ejemplo, algunos oficiales durante el período del informe identificaron el hecho de estar en un área conocida por tener alertas frecuentes de ShotSpotter como un elemento de la sospecha razonable requerida para justificar la detención. Otros oficiales informaron haber realizado "cacheos de protección" después de una parada porque sabían que estaban en áreas donde las alertas de ShotSpotter eran frecuentes.
Un nuevo informe de Associated Press, basado en registros confidenciales de ShotSpotter compartidos con la agencia de noticias, está lleno del tipo de buenas y malas noticias que tienden a cargarse con titulares sin compromiso, como este: “[Documento confidencial revela papel humano clave en tecnología de disparos] (https://apnews.com/article/shotspotter-artificial-intelligence-investigation-9cb47bbfb565dc3ef110f92ac7f83862)”.
Esto es lo que se destaca en este informe:
[Un] documento confidencial de ShotSpotter obtenido por The Associated Press describe algo que la compañía no siempre promociona sobre su "sistema de control de precisión": que los empleados humanos pueden anular y revertir rápidamente las determinaciones del algoritmo, y se les da amplia discreción para decide si un sonido es un disparo, fuegos artificiales, truenos o algo más.
Tales reversiones ocurren el 10 % de las veces en una cuenta de empresa de 2021, lo que, según los expertos, podría generar subjetividad en decisiones cada vez más importantes y entrar en conflicto con una de las razones por las que la IA se usa en herramientas de aplicación de la ley en primer lugar: para disminuir el papel de humanos demasiado falibles.
El AP es técnicamente correcto. ShotSpotter dice que su tecnología puede hacer lo que la policía no puede: ser omnipresente con los oídos listos. Lo que ofrece a las comisarías es casi perfecto, una tasa de éxito del 97 % en la audición y localización de disparos.
Lo que no queda claro de inmediato son los respaldos humanos. Esto es absolutamente esencial. No se debe suponer instantáneamente que los ruidos fuertes son disparos. De ahí la necesidad de empleados humanos capacitados para separar los "posibles" de los "confirmados".
Pero hay una desventaja en esto, una que es tan dañina como la voluntad de algunos policías de tratar cada disparo sospechoso como un permiso general para violar los derechos de aquellos que se encuentran en las inmediaciones denunciadas. Los técnicos humanos de ShotSpotter [no solo alteren los informes] respuesta/) para distinguir cosas como el petardeo de un coche de los disparos de armas de un presunto criminal. También [alteran las determinaciones] ) y ubicaciones de disparos para mejorar satisfacer las necesidades de las fuerzas del orden que interactúan con ellos.
Por un lado, tenemos humanos buscando errores de IA. Por otro lado, tenemos humanos dispuestos a atender a sus clientes policiales. Una verdadera tierra de contrastes tipo de situación y que no inspira exactamente más confianza en una empresa de tecnología policial que ha exagerado rutinariamente la precisión de su producto principal.
Como era de esperar, los ejecutivos de ShotSpotter siguen siendo optimistas.
ShotSpotter dijo en un comunicado a la AP que el papel humano es una verificación positiva del algoritmo y que el documento en "lenguaje sencillo" refleja los altos estándares de precisión que deben cumplir sus revisores.
“Nuestros datos, basados en la revisión de millones de incidentes, demuestran que la revisión humana agrega valor, precisión y consistencia a un proceso de revisión del que dependen nuestros clientes, y muchas víctimas de disparos”, dijo Tom Chittum, vicepresidente de la compañía. de servicios de analítica y forense.
Esto es indudablemente cierto. Los revisores humanos pueden emitir juicios que el software no puede. Esto puede ayudar a limitar los falsos positivos. Por otro lado, hemos visto evidencia de que los revisores humanos de ShotSpotter no están tan bien capacitados como afirma la compañía. Sus expertos no son realmente expertos. Y, en al menos dos casos, los revisores humanos se han involucrado en el tipo de servicio al cliente que garantiza la repetición de los negocios del gobierno (alterando los informes para que se ajusten mejor a las narrativas policiales), pero hace poco para proteger a las personas que realmente pagan por estos servicios: los residentes de las ciudades. donde se ha implementado la tecnología.
Si el personal humano de ShotSpotter modifica los informes de disparos el 10 % de las veces, significa que el software no es tan preciso como afirma la empresa. Y probablemente signifique que todavía están alterando los informes a pedido de las fuerzas del orden, que pueden sentir que un falso positivo debe tratarse como un positivo real o sentir que la detección estuvo demasiado lejos de sus violaciones de derechos para ser útil en su racionalización post hoc. de sus abusos.
Cualquiera que sea el caso, ShotSpotter debe ser tratado con mucho más escepticismo que lo que se observa en este informe de AP. La empresa afirma hechos que no son pruebas, demanda a los periodistas por informar con veracidad sobre sus actividades y claramente se considera una parte esencial de la ecuación de la justicia penal. Hasta que la empresa esté dispuesta a permitir que expertos externos examinen su tecnología, la empresa debe ser tratada como parte del problema, en lugar de una solución barata y fácil para los delitos con armas de fuego.