Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 1956

Incidentes Asociados

Incidente 3094 Reportes
Facial Recognition Trial Performed Poorly at Notting Hill Carnival

Loading...
Uso de la tecnología de reconocimiento facial por parte de la Policía Metropolitana en el Carnaval de Notting Hill, 2017
gov.uk · 2017

Este tipo de tecnología biométrica (Tecnología de reconocimiento facial) tiene el potencial de ser una herramienta realmente útil para combatir el crimen, pero aún no hemos llegado allí. Debe probarse y evaluarse adecuadamente si va a ser efectivo y la policía y el gobierno deberán manejarlo con cuidado si el público va a confiar en él.

Mensajes clave

  1. Existe un beneficio público en el uso de dicha tecnología si se puede demostrar que ayuda a prevenir los problemas que ha habido en carnavales anteriores al ayudar a la policía a atrapar a los delincuentes o prevenir el crimen.
  2. Hasta ahora, las pruebas de coincidencia facial para detectar personas en grandes multitudes han tenido muy poco éxito, de ahí el juicio de la Policía Metropolitana. Está bien que hayan hecho público su ensayo pero deben hacer una evaluación adecuada y publicar los resultados.
  3. La policía ya tiene más de 20 millones de imágenes faciales, pero todavía no existe un sistema policial único y compartido para almacenar y buscar imágenes en poder de la policía ni una evaluación de su precisión y utilidad.
  4. Las fuerzas policiales deben trabajar juntas para acordar un sistema único de reconocimiento facial que se haya probado que funciona en el campo y el gobierno debe crear un marco legislativo para su uso, con supervisión independiente para brindar seguridad pública, como lo ha hecho para ADN y huellas dactilares.
  5. El Comisionado de Biometría anterior hizo comentarios similares a los de otros, como el Comité Selecto de Ciencia y Tecnología, y todavía tenemos que ver lo que propone el gobierno ya que su Estrategia de Biometría se ha retrasado por algún tiempo.

explicación más amplia

  1. La policía ya tiene más de 20 millones de imágenes faciales tanto en la base de datos nacional de la policía como en sistemas de fuerza separados. El Inspector de Policía de Su Majestad (Escocia) comentó recientemente desfavorablemente sobre esta situación, ya que significa que se están aplicando diferentes estándares en todo el Reino Unido. La mayoría de estas imágenes faciales son imágenes de custodia. Los tribunales sostuvieron en 2012 que estas tenencias eran ilegales y el Ministerio del Interior respondió a esa sentencia en 2017. He [comentado esta respuesta en otro lugar] (https://www.gov.uk/government/news/response-to-the -home-office-revisión-de-la-retención-y-uso-de-custodia-de-imágenes).
  2. El interés actual de la policía en la coincidencia facial ha pasado de las imágenes de custodia a si se puede usar para identificar a los delincuentes individuales en lugares públicos. La capacidad para hacer esto aún no se ha probado, ya que las pruebas en tales situaciones han mostrado índices de coincidencia muy bajos, a diferencia de los índices de coincidencia en entornos controlados.
  3. La policía está realizando una serie de pruebas para ver si la tecnología de búsqueda y coincidencia facial se puede emplear de manera efectiva en lugares públicos concurridos. Dichos experimentos deben diseñarse y evaluarse adecuadamente, preferiblemente con la participación de expertos externos, y los resultados deben publicarse. La policía también debe evaluar su uso de imágenes faciales en general para demostrar que tienen un propósito útil y rentable, basado en una calidad de comparación adecuada. También deben explicar cómo tratarán las posibles coincidencias falsas.
  4. Existe una investigación limitada en esta área y la mayor parte se ha realizado en los EE. UU. Las evaluaciones deben incluir no solo el comportamiento de los algoritmos de coincidencia, sino también cómo funcionan en el sistema de justicia penal total y cómo la toma de decisiones humana en dichos sistemas afecta la precisión de las tasas de coincidencia.
  5. Los sistemas de coincidencia facial han mejorado significativamente recientemente y el uso que está explorando la Policía Metropolitana puede, en algún momento, alcanzar una calidad aceptable para el uso operativo, pero en la actualidad eso aún está por demostrar.
  6. El uso de imágenes faciales, especialmente en lugares públicos, es una gran intrusión en la libertad individual, especialmente porque las imágenes pueden capturarse sin que el sujeto se dé cuenta. El beneficio público del uso de una tecnología tan intrusiva debe superar la interferencia en la privacidad individual. Un equilibrio tan difícil entre el beneficio público y la privacidad individual no debería ser decidido por la policía, sino que es mejor que lo decida el Parlamento a través de un debate informado y la legislación. Como ocurre actualmente con el ADN y las huellas dactilares, la legislación debería incluir una supervisión independiente para asegurar al público que su privacidad está debidamente protegida.
Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd