Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 1431

Incidentes Asociados

Incidente 2559 Reportes
Unreliable ShotSpotter Audio Previously Used to Convict Chicago Man in Murder Case

Loading...
La policía le está diciendo a ShotSpotter que altere la evidencia de la IA que detecta disparos
vice.com · 2021

El 31 de mayo del año pasado, un hombre llamado Michael Williams disparó a Safarain Herring, de 25 años, en la cabeza y lo dejó en el Hospital St. Bernard en Chicago. Murió dos días después. La policía de Chicago finalmente arrestó a Williams, de 64 años, y lo acusó de asesinato (Williams sostiene que Herring fue alcanzado en un tiroteo desde un vehículo). Una pieza clave de evidencia en el caso son las imágenes de videovigilancia que muestran que el auto de Williams se detuvo en la cuadra 6300 de South Stony Island Avenue a las 11:46 p. m., la hora y el lugar donde la policía dice saber que le dispararon a Herring. ¿Cómo supieron que ahí es donde ocurrió el tiroteo? La policía dijo que ShotSpotter, un sistema de vigilancia que utiliza sensores de micrófono ocultos para detectar el sonido y la ubicación de los disparos, generó una alerta para ese momento y lugar. Excepto que eso no es del todo cierto, según una moción presentada por el defensor público de Williams. Esa noche, 19 sensores ShotSpotter detectaron un sonido de percusión a las 11:46 p.m. y determinó que la ubicación sería 5700 South Lake Shore Drive, a una milla del sitio donde los fiscales dicen que Williams cometió el asesinato, según una [moción presentada por el defensor público de Williams] (https://pdfhost.io/v/RmCGSdFdT_Williams_Frye_motion .pdf). Los algoritmos de la empresa clasificaron inicialmente el sonido como fuegos artificiales. Ese fin de semana hubo protestas generalizadas en Chicago en respuesta al asesinato de George Floyd, y algunos de los que protestaban encendieron fuegos artificiales. (Si bien la dirección que figura en la [alerta en tiempo real] (https://uofi.app.box.com/s/mq0ody3zrd50ul2eezth2ym98fokhnmy) estaba a una milla de distancia del lugar donde supuestamente ocurrió el tiroteo, la alerta también contenía un mapa y Coordenadas de GPS que identifican la intersección donde supuestamente ocurrió el tiroteo). Pero después de las 11:46 p.m. llegó la alerta, un analista de ShotSpotter anuló manualmente los algoritmos y "reclasificó" el sonido como un disparo. Posteriormente, la empresa emitió un [informe forense](https://urldefense.proofpoint.com/v2/url?u=https-3A__nam10.safelinks.protection.outlook.com_-3Furl-3Dhttps-253A-252F-252Furldefense.proofpoint .com-252fv2-252furl-253fu-253dhttps-2d3a-5f-5fnam10.safelinks.protection.outlook.com-5f-2d3furl-2d3dhttps-2d253a-2d252f-2d252fuOfi.app.box.com-2d252fs-2d252fof -2D257C01-2D257Crclark-2D2540shotspotter.com-2D257C962264c227dd4f4ded1308da6a6c7bb7-2D257C375a7f9552d1443aaa60167b2aefb8af-2D257C0-2D257C0-2D257C637939311556335099-2D257CUnknown-2D257CTWFpbGZsb3d8eyJWIjoiMC4wLjAwMDAiLCJQIjoiV2luMzIiLCJBTiI6Ik1haWwiLCJXVCI6Mn0-2D253D-2D257C3000-2D257C-2D257C-2D257C-2D26sdata-2D3DafWuZR86CJ8pU6eCCMxwF-2D252B2Gv1rIh8fm0zjO6YzqkOA-2D253D-2D26reserved-2D3D0-2526d-253DDwMGaQ-2526c -253DeuGZstcaTDllvimEN8b7jXrwqOf-2Dv5A-5FCdpgnVfiiMM-2526r-253DsYT3BErAq-2DQ9eRYexGsbx95args-2DuI12hGfigmg-2D2xw-2526m-253DXFVS1M6PmCBSZSOGH0edymQ4DhyuKvnrnFNmSNs5N2U-2526s-253DJBz7d0dtMuhVNDCmDHt cwhDLHGiypOZwOyY-2Dq3KLpGY-2526e-253D-26data-3D05-257C01-257Csklepper-2540shotspotter.com-257Cbd2d9111f905450cc7f108da6a71a84e-257C375a7f9552d1443aaa60167b2aefb8af-257C0-257C0-257C637939333658417989-257CUnknown-257CTWFpbGZsb3d8eyJWIjoiMC4wLjAwMDAiLCJQIjoiV2luMzIiLCJBTiI6Ik1haWwiLCJXVCI6Mn0-253D-257C3000-257C-257C-257C-26sdata-3DxgM-252FUPdGztuTgXfCWhCT5alsJnEQvkWNuCwA- 252B2d1mxc-253D-26reserved-3D0&d=DwMGaQ&c=euGZstcaTDllvimEN8b7jXrwqOf-v5A_CdpgnVfiiMM&r=sYT3BErAq-Q9eRYexGsbx95args-uI12hGfigmg-2xw&m=Zf9UCITHIN3d6-V2RB0yOmTilrhNpXjqeObROhDotXE&s=3VHSaW193TCbk6T04yX6jDLP4BaQz9ldctmo9Fc-w98&e =) with a map and GPS coordinates identifying the same intersection that ShotSpotter had initially identified in the real- alerta de tiempo, pero actualizó la dirección para estar más cerca de las coordenadas GPS reales que había identificado inicialmente. Una captura de pantalla de la alerta de ShotSpotter de las 11:46 p. m. del 31 de mayo de 2020 que muestra que el sonido se reclasificó manualmente de un petardo a un disparo. “A través de este método con participación humana, la salida de ShotSpotter en este caso se transformó drásticamente de datos que no respaldaban cargos penales de ningún tipo a datos que ahora forman la pieza central del caso de asesinato de la fiscalía contra el Sr. Williams”, escribió el defensor público. en el movimiento El documento es lo que se conoce como una moción Frye: una solicitud para que un juez examine y dictamine si un método forense en particular es lo suficientemente válido científicamente como para ser presentado como evidencia. En lugar de defender la tecnología de ShotSpotter y las acciones de sus empleados en una audiencia de Frye, los fiscales retiraron todas las pruebas de ShotSpotter contra Williams. El caso no es una anomalía y el patrón que representa podría tener enormes ramificaciones para ShotSpotter en Chicago, donde la tecnología genera un promedio de 21 000 alertas cada año. La tecnología también está actualmente en uso en más de 100 ciudades. La revisión de Motherboard de los documentos judiciales del caso Williams y otros juicios en Chicago y el estado de Nueva York, incluido el testimonio del testigo experto favorito de ShotSpotter, sugiere que los analistas de la compañía modifican con frecuencia las alertas a pedido de los departamentos de policía, algunos de los cuales parecen estar buscando evidencia que apoya su narrativa de los eventos. Evidencia no probada ----------------- Si la oficina del Fiscal del Estado del Condado de Cook no hubiera retirado la evidencia en el caso Williams, probablemente se habría convertido en la primera vez que un tribunal de Illinois examinó formalmente la ciencia. y el código fuente detrás de ShotSpotter, le dijo a Motherboard Jonathan Manes, abogado del Centro de Justicia MacArthur. “En lugar de defender la evidencia, [los fiscales] simplemente huyeron de ella”, dijo. “En este momento, nadie fuera de ShotSpotter ha podido mirar debajo del capó y auditar esta tecnología. No permitiríamos que los laboratorios criminalísticos forenses usaran una prueba de ADN que no haya sido examinada y auditada”. Sam Klepper, vicepresidente senior de marketing y estrategia de productos de ShotSpotter, le dijo a Motherboard en un correo electrónico que la empresa no tiene motivos para creer que la decisión del fiscal refleja una falta de fe en su tecnología. La evidencia de ShotSpotter y el testimonio de los empleados han sido admitidos en 190 casos judiciales, escribió. “Si la evidencia de ShotSpotter es relevante para un caso es un asunto que se deja a discreción del fiscal y del abogado del acusado... ShotSpotter no tiene motivos para creer que estas decisiones se basan en un juicio sobre la tecnología de ShotSpotter”, dijo. El Departamento de Policía de Chicago, la Oficina del Fiscal del Estado del Condado de Cook, la oficina de la alcaldesa Lori Lightfoot y el concejal Chris Taliaferro, quien preside el comité de seguridad pública del consejo de la ciudad, no respondieron a las solicitudes de entrevistas ni a las preguntas. Un patrón de alteraciones ------------------------ En 2016, Rochester, Nueva York, la policía que buscaba un vehículo sospechoso detuvo el auto equivocado y disparó al pasajero , Silvon Simmons, en la espalda tres veces. Lo acusaron de disparar primero a los oficiales. La única evidencia contra Simmons vino de ShotSpotter. Inicialmente, los sensores de la compañía no detectaron ningún disparo y los algoritmos determinaron que los sonidos procedían de los rotores de los helicópteros. Después de que la policía de Rochester se puso en contacto con ShotSpotter, un analista dictaminó que hubo cuatro disparos, la cantidad de veces que la policía disparó contra Simmons, fallando una. Paul Greene, testigo experto de ShotSpotter y empleado de la compañía, testificó en el juicio de Simmons que "posteriormente, el Departamento de Policía de Rochester le pidió que esencialmente buscara y viera si hubo más disparos de los que ShotSpotter recogió", según un demanda civil que Simmons ha presentado contra la ciudad y la empresa. Greene encontró un quinto disparo, a pesar de que no había evidencia física en la escena de que Simmons había disparado. La policía de Rochester también rechazó sus múltiples solicitudes para que examinaran sus manos y ropa en busca de residuos de disparos. Se eliminaron los archivos de audio originales de ShotSpotter del quinto disparo, dejando una copia "redactada[ed]" de la grabación con los cinco presuntos disparos. Tanto la compañía como el Departamento de Policía de Rochester “perdieron, borraron y/o destruyeron el carrete y/u otra información que contenía sonidos relacionados con el tiroteo en el que participó el oficial”, según la demanda civil de Simmons. “Greene reconoció en el juicio penal del demandante que los empleados de ShotSpotter y los clientes de las fuerzas del orden con un editor de audio pueden alterar cualquier archivo de audio que no haya sido bloqueado o encriptado”. Un jurado finalmente absolvió a Simmons de intento de asesinato y un juez anuló su condena por posesión de un arma, [citando la falta de fiabilidad de ShotSpotter] (https://www.democratandchronicle.com/story/news/2018/01/11/judge-reverses- condena-hombre-que-disparó-oficial/1017531001/). Extracto de la demanda civil de Silvon Simmons contra ShotSpotter y el Departamento de Policía de Rochester. Greene, quien ha testificado como testigo del gobierno en docenas de juicios penales, estuvo involucrado en otro informe alterado en Chicago, en 2018, cuando Ernesto Godinez, entonces de 27 años, fue acusado de dispararle a un agente federal en la ciudad. La evidencia en su contra incluía un informe de ShotSpotter que indicaba que se habían realizado siete disparos en la escena, incluidos cinco desde las inmediaciones de una puerta donde la vigilancia por video mostró que Godinez estaba parado y cerca de donde se encontraron más tarde casquillos de bala. El video de vigilancia no mostró ningún fogonazo desde la entrada, y los casquillos de los proyectiles no pudieron coincidir con las balas que alcanzaron al agente, según los registros judiciales. Durante el juicio, Greene testificó durante el contrainterrogatorio que la alerta inicial de ShotSpotter solo indicaba dos disparos (los disparados por un oficial en respuesta al tiroteo original). Pero después de que la policía de Chicago contactara a ShotSpotter, Greene volvió a analizar los archivos de audio. “Más o menos una hora después de que ocurriera el incidente, la policía de Chicago se puso en contacto con nosotros y nos pidió que buscáramos, básicamente, que buscáramos clips de audio adicionales. Y esto sucede de forma semiregular con todos nuestros clientes”, dijo Greene al tribunal, según una transcripción del juicio. Más tarde dictaminó que hubo cinco disparos adicionales que los algoritmos de la compañía no detectaron. Greene también reconoció en el juicio que "admitimos libremente que cualquier cosa en el entorno puede afectar la ubicación y la precisión de detección". Extracto de la transcripción del testimonio pericial de Paul Greene durante el juicio de Ernesto Godinez. Los analistas de ShotSpotter “están de acuerdo con la clasificación de las máquinas más del 90 % de las veces”, escribió Klepper, de ShotSpotter, a Motherboard. “En un pequeño número de casos, nuestros clientes nos solicitan que realicemos un análisis de ubicación para validar la precisión de la ubicación. Si encontramos un error, proporcionamos una ubicación más precisa al cliente para ayudar en la investigación”. Antes del juicio, el juez dictaminó que Godinez no podía cuestionar la precisión de ShotSpotter ni las calificaciones de Greene como testigo experto. Godinez ha apelado la condena, en gran parte debido a ese fallo. “La confiabilidad de su tecnología nunca ha sido cuestionada en los tribunales y nadie está haciendo nada al respecto”, dijo Gal Pissetzky, el abogado de Godinez, a Motherboard. “Chicago está pagando millones de dólares por su tecnología y luego, en cierto modo, impide que nadie la desafíe”. La evidencia ------------ En el centro de la oposición a ShotSpotter está la falta de evidencia empírica de que funcione, tanto en términos de la precisión de su sensor como del efecto general del sistema en los delitos con armas de fuego. La compañía no ha permitido ninguna prueba independiente de sus algoritmos, y hay evidencia de que las afirmaciones que hace en los materiales de marketing sobre la precisión pueden no ser del todo científicas. A lo largo de los años, las afirmaciones de ShotSpotter sobre su precisión han aumentado, del 80 % al 90 % de precisión al [97 % de precisión](https://www.shotspotter.com/wp-content/uploads/2020/12/ShotSpotter-Respond -FAQ-diciembre-2020.pdf). Sin embargo, según Greene, esos números en realidad no los calculan los ingenieros. “Nuestra garantía fue creada por nuestro departamento de ventas y marketing, no por nuestros ingenieros”, Greene [le dijo a un tribunal de San Francisco] (https://www.sfexaminer.com/news/courtroom-testimony-reveals-accuracy-of-sf -gunshot-sensors-a-marketing-ploy/) en 2017. “Necesitamos darles [clientes] un número... Tenemos que decirles algo. … No es perfecto. El punto en el mapa es simplemente un punto de partida”. En mayo, el Centro de Justicia MacArthur [analizó los datos de ShotSpotter] (https://www.macarthurjustice.org/shotspotter-generated-over-40000-dead-end-police-deployments-in-chicago-in-21-months-according -to-new-study/) y descubrió que durante un período de 21 meses, el 89 % de las alertas que la tecnología generó en Chicago no condujo a ninguna evidencia de un delito con armas de fuego y el 86 % de las alertas no condujo a ninguna evidencia de que se hubiera cometido un delito en absoluto. Klepper cuestionó esos hallazgos a Motherboard y dijo que "la fuente de datos utilizada para sacar sus conclusiones, por sí sola, da como resultado una imagen incompleta de un incidente" porque es posible que se haya disparado un arma incluso si no hay evidencia policial documentada de que fue. . También dijo que el testimonio de Greene en el juicio de San Francisco “no tuvo nada que ver con la determinación de nuestra tasa de precisión histórica real. Si bien marketing y ventas tienen información adecuada sobre nuestras garantías de nivel de servicio para nuestros contratos, las tasas de precisión reales se basan en las detecciones que registramos”. Mientras tanto, un creciente cuerpo de investigación sugiere que ShotSpotter no ha provocado ninguna disminución en los delitos con armas de fuego en las ciudades donde se implementa, y [varios clientes] (https://www.timesunion.com/local/article/Troy-will-turn -off-ShotSpotter-3994808.php) han abandonado la empresa, citando [demasiadas falsas alarmas](https://www .heraldnews.com/news/20180420/after-too-many-shots-missed-fall-river-officially-ends-deal-with-shotspotter) y la [falta de retorno de la inversión](https://www.expressnews .com/news/local/article/San-Antonio-police-cut-pricey-gunshot-detection-11824797.php). Un [estudio reciente de ShotSpotter en St. Louis] (https://www.researchgate.net/publication/337869476_Acoustic_Gunshot_Detection_Systems_A_quasi-experimental_evaluation_in_St_Louis_MO) encontró que ShotSpotter “tiene poco impacto disuasorio en los delitos violentos relacionados con armas en St. Louis. [Los sistemas automatizados de detección de armas] tampoco brindan reducciones consistentes en el tiempo de respuesta de la policía, ni ayudan sustancialmente a producir resultados procesables". Klepper cuestionó esos y otros hallazgos de la investigación y dijo que "las conclusiones de los estudios no reflejan lo que vemos". Señaló un estudio de 2021 realizado por el Proyecto de Vigilancia de la Facultad de Derecho de la Universidad de Nueva York que determinó que los asaltos (que incluyen algunos delitos con armas de fuego) disminuyeron en un 30 por ciento en algunos distritos del condado de St. Louis después de que se instaló ShotSpotter. Los [autores del estudio revelaron](https://static1.squarespace.com/static/58a33e881b631bc60d4f8b31/t/603923e3a32c3f57d67dabec/1614357476874/Measuring+the+Effects+of+Shotspotter+on+Gunfire+in+St.+Louis+County% 2C+MO.pdf ) que ShotSpotter ha estado proporcionando fondos ilimitados al Proyecto Policing desde 2018, que el director ejecutivo de ShotSpotter forma parte del consejo asesor del Proyecto Policing y que ShotSpotter ha compensado previamente a los investigadores del Proyecto Policing. Chicago retrocede ------------------- Chicago es una de las ciudades más importantes en la cartera de ShotSpotter y se está convirtiendo cada vez más en un campo de batalla por su uso. Si un tribunal accede alguna vez a examinar la viabilidad forense de ShotSpotter, o si los fiscales continúan descartando las pruebas cuando son cuestionadas, podría tener ramificaciones masivas. Desde enero de 2017 hasta junio de 2021, ShotSpotter reportó 94.313 incidentes de disparos en la ciudad, un promedio de 20.958 por año, según datos obtenidos por Motherboard a través de una solicitud de registros públicos. Chicago es el segundo cliente más importante de ShotSpotter, después de la ciudad de Nueva York, y representa el 13 % de los ingresos de la empresa durante el [primer trimestre de 2021](https://www.sec.gov/ix?doc=/Archives/edgar/data/ 0001351636/000095017021000190/ssti-20210331.htm). Pero el contrato de $33 millones de Chicago con la compañía está llegando a su fin y los funcionarios de la ciudad deben decidir este agosto si lo renuevan o no. Mientras tanto, la ciudad está lidiando con nuevas investigaciones, un aumento en los tiroteos, casos como los juicios de Williams y Godinez y tragedias que han provocado nuevas críticas a la tecnología. Fue una alerta de ShotSpotter en las primeras horas de la mañana del 29 de marzo que [envió a la policía a una calle de La Villita](https://chicago.suntimes.com/news/2021/4/26/22386140/adam-toledo- shooting-timeline-video-police-cpd-little-village) donde finalmente dispararon y mataron a Adam Toledo, de 13 años, que estaba desarmado en ese momento. Ese y otros eventos recientes han provocado una [nueva campaña de grupos comunitarios y de derechos civiles](https://actionnetwork.org/petitions/cancel-shotspotter-and-support-community-led-solutions-to-address-gun-violence -in-chicago?source=direct_link& ) en Chicago pidiendo a los funcionarios de la ciudad que abandonen ShotSpotter. “Estas herramientas están enviando más policías a los vecindarios negros y latinos”, dijo a Motherboard Alyx Goodwin, organizadora de Chicago del Centro de Acción sobre Raza y Economía, uno de los grupos que lidera la campaña. “Cada alerta de ShotSpotter pone a las personas negras y latinas en riesgo de interactuar con la policía. Eso es lo que le pasó a Adam Toledo”. Motherboard obtuvo datos recientemente [que demuestran la marcada disparidad racial] (https://www.vice.com/en/article/88nd3z/gunshot-detecting-tech-is-summoning-armed-police -to-black-neighborhoods) en cómo Chicago ha implementado ShotSpotter. Los sensores se colocaron casi exclusivamente en comunidades predominantemente negras y marrones, mientras que los enclaves blancos en el norte y noroeste de la ciudad no tienen ningún sensor, a pesar de los datos de la policía de Chicago que muestran que los delitos con armas de fuego se extienden por toda la ciudad. Los miembros de la comunidad dicen que han visto pocos beneficios de la tecnología en forma de menos violencia armada: la cantidad de tiroteos en 2021 está [en camino de ser la más alta] (https://home.chicagopolice.org/wp-content/ uploads/1_PDFsam_CompStat-Public-2021-Week-28.pdf) en cuatro años, o mejores interacciones con los agentes de policía. “Si tuviera relaciones con alguna de las personas de la cuadra, no necesitaría la tecnología, porque podríamos decírselo”, dijo a Motherboard Asiaha Butler, presidenta de la Asociación de Residentes de Greater Englewood. En cambio, la tecnología parece haberle dado a la policía otra excusa para no entablar relaciones con los residentes. Cuando suenan disparos en el vecindario, la policía puede responder más rápido, pero es una “presencia policial demasiado militarizada”. Ves muchos de ellos. No es una interacción amistosa”, dijo. _Nota del editor: Luego de la publicación de este artículo, VICE recibió copias de los documentos judiciales del caso de Michael Williams, que muestran que ShotSpotter no cambió las coordenadas de los disparos ni una milla, pero identificó la misma intersección para the gunfire in both its initial [real-time alert](https://urldefense.proofpoint.com/v2/url?u=https-3A__uofi.app.box.com_s_mq0ody3zrd50ul2eezth2ym98fokhnmy&d=DwMGaQ&c=euGZstcaTDllvimEN8b7jXrwqOf-v5A_CdpgnVfiiMM&r=sYT3BErAq-Q9eRYexGsbx95args-uI12hGfigmg -2xw&m=_RO6tGr91u6sypJqaUQ94gzbAHD708CAZx5xpp524wc&s=Zd050ICXswJfhicFLHN7SP50IMRcPmot53xz9xeFCKg&e =) and in its later [detailed forensic report](https://urldefense.proofpoint.com/v2/url?u=https-3A__uofi.app.box.com_s_of3lm0yv3wbcwutx6n3rwyacu5c8c11q&d=DwMGaQ&c=euGZstcaTDllvimEN8b7jXrwqOf-v5A_CdpgnVfiiMM&r= sYT3BErAq-Q9eRYexGsbx95args-uI12hGfigmg-2xw&m=RO6tGr91u6sypJqaUQ94gzbAHD708CAZx5xpp524wc&s=rO1OGwUgmZ-4y5tQz1bXuUc6w0oXG9l1BI0GRWzZbxs&e =). El artículo también se ha actualizado para aclarar que se eliminó la grabación original de los disparos en el caso de Silvon Simmons, pero que el jurado escuchó una copia redactada de la grabación con los cinco presuntos disparos.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd