Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 840

Incidentes Asociados

Incidente 4820 Reportes
Passport checker Detects Asian man's Eyes as Closed

Loading...
Un algoritmo rechazó la foto del pasaporte de un hombre asiático por tener "los ojos cerrados"
qz.com · 2016

Otro golpe contra los robots.

A principios de esta semana, un neozelandés asiático publicó una captura de pantalla en Facebook que mostraba que su foto de pasaporte había sido rechazada por tener los ojos cerrados, a pesar de que estaban visiblemente abiertos. Richard Lee, un estudiante de ingeniería de Nueva Zelanda de veintidós años que nació en Taiwán y actualmente estudia en Melbourne, Australia, estaba tratando de renovar su pasaporte en línea usando un verificador de fotos basado en algoritmos operado por el departamento de Nueva Zelanda. de asuntos internos.

Lee se tomó el lío con calma. “Sin resentimientos de mi parte”, dijo a Reuters. “Siempre he tenido ojos muy pequeños y la tecnología de reconocimiento facial es relativamente nueva y poco sofisticada”. También le dijo a Mashable que terminó tomando más fotos, una de las cuales fue aceptada por el sistema.

Los errores en las fotos de pasaporte son comunes: hasta el 20 % de las fotos enviadas al sistema que usó Lee son rechazadas, la mayoría de las veces por tener los ojos cerrados, pero las complejidades son indicativas de problemas más amplios con la tecnología de reconocimiento facial. Ya en 2010, la revista Time informó que las personas que usaban cámaras digitales equipadas con algoritmos similares tenían problemas similares: las cámaras advertían que los ojos de las personas (en particular, las personas de ascendencia asiática) estaban cerrados cuando no lo estaban.

Los estereotipos racistas que rodean los ojos de los asiáticos se remontan aún más atrás. Si bien el alboroto del pasaporte de Lee puede haber sido un accidente, no queremos que los algoritmos se repitan.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd