Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 2225

Incidentes Asociados

Incidente 3856 Reportes
Canadian Police's Release of Suspect's AI-Generated Facial Photo Reportedly Reinforced Racial Profiling

Loading...
Declaración de EPS sobre fenotipado de ADN
edmontonpolice.ca · 2022

Mi nombre es Enyinnah Okere y, como directora de operaciones de la Oficina de Seguridad y Bienestar de la Comunidad de EPS, soy responsable de supervisar nuestra sección de agresión sexual: fue mi equipo el que publicó un comunicado hace dos días sobre la agresión sexual no resuelta de una mujer joven en 2019.

Este fue un asalto sexual horrible, uno que casi causa la muerte de la joven que quedó inconsciente y casi completamente desnuda en una mañana de menos 27 grados en marzo.

Es el tipo de caso del que una víctima nunca puede recuperarse por completo, empeorado por el hecho de que después de dos años, no ha recibido justicia. La naturaleza violenta del asalto, el hecho de que la víctima perdió el conocimiento y que el sospechoso vestía ropa de invierno voluminosa y una máscara facial, significaba que teníamos muy poco con lo que trabajar, solo que el sospechoso era negro y de aproximadamente 5'4 con gorra negra, pantalón y suéter o sudadera con capucha y que tenía acento. Además, no teníamos testigos, pistas, cámaras de seguridad y, después de dos años, pistas.

Para hacer avanzar este caso estancado, los miembros de nuestro equipo buscaron el consejo de colegas en otras jurisdicciones que anteriormente habían utilizado el fenotipado de ADN y vieron potencial para ello aquí. Encargaron un perfil que publicamos el martes.

No tengo más que respeto por mi equipo por estar dispuesto a probar todas las tácticas imaginables para llevar este caso a una conclusión satisfactoria: la víctima no se merece menos. Quiero agradecer a nuestra gente que hace todo lo posible para llevar a cabo este trabajo con rigor. Son implacables y no les pediré que sean menos.

Pero no éramos ni somos ajenos a las legítimas dudas planteadas sobre la idoneidad de este tipo de tecnologías. El potencial de que un perfil visual pueda proporcionar una caracterización demasiado amplia dentro de una comunidad racializada y, en este caso, la comunidad negra de Edmonton, no fue algo que consideré adecuadamente. Existe una necesidad importante de equilibrar el valor investigativo potencial de una práctica con los riesgos demasiado reales y las consecuencias no deseadas para las comunidades marginadas.

En nuestro lanzamiento, intentamos calificar los beneficios y los límites de la técnica que usamos aquí. Sentimos que teníamos claro su límite. Indicamos que lo veíamos como último recurso. Y agradecemos a los medios de comunicación que asistieron a nuestra sesión informativa por producir historias cuidadosas y equilibradas que señalaron de manera similar la intención de este trabajo y las justas críticas que deben tenerse en cuenta.

Cada vez que usamos una nueva tecnología, especialmente una que plantea preocupaciones sobre la creación de perfiles de un grupo marginado, no podemos ser lo suficientemente cuidadosos en la forma en que validamos estos esfuerzos y consideramos los riesgos de manera completa y transparente.

Hemos escuchado críticas externas legítimas y hemos hecho nuestras propias comprobaciones internas para determinar si obtuvimos el equilibrio correcto y, como líder, no creo que lo haya hecho.

Si bien la tensión que sentí por esto era muy real, prioricé la investigación, que en este caso involucró la búsqueda de justicia para la víctima, ella misma miembro de una comunidad racializada, sobre el daño potencial a la comunidad negra. Esta no fue una compensación aceptable y me disculpo por esto.

Por tal motivo, la EPS estará tomando hoy las siguientes medidas.

Vamos a eliminar las imágenes proporcionadas con este comunicado de nuestro sitio web y eliminaremos nuestras imágenes de redes sociales por completo, a partir de esta mañana.

Revisaremos nuestros procesos internos para asegurarnos de que las herramientas apropiadas, sólidas y probadas estén en su lugar para informar mejor nuestras decisiones sobre tales asuntos en el futuro.

Y continuaremos priorizando y explorando todos los medios concebibles y apropiados para encontrar justicia para la víctima en este caso: ella merece nuestros continuos esfuerzos y atención, y no renunciaremos a nuestros esfuerzos por ella.

Gracias,

Enyinnah Okere director de operaciones Oficina de Seguridad y Bienestar de la Comunidad Servicio de Policía de Edmonton

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd