Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 844

Incidentes Asociados

Incidente 4820 Reportes
Passport checker Detects Asian man's Eyes as Closed

Loading...
Sitio web de pasaportes de Nueva Zelanda rechaza foto de hombre asiático por tener los ojos "cerrados"
gizmodo.com.au · 2016

Cualquiera que haya lidiado con las complejidades de los requisitos de la foto del pasaporte probablemente aprovecharía la oportunidad de verificar sus fotos en línea, pero los sistemas automatizados pueden tener sus propias complicaciones, como aprendió recientemente un hombre de Nueva Zelanda.

Captura de pantalla: YouTube/Departamento de Asuntos Internos de Nueva Zelanda

Richard Lee, de 22 años, estaba usando el verificador de pasaportes en línea de su país cuando encontró un error inesperado: el sitio web dijo que su foto era inaceptable porque "los ojos del sujeto están cerrados". Los ojos de Lee, por supuesto, estaban abiertos, solo tenían pliegues epicánticos.

Foto: Facebook

"Probé diferentes y no tuve suerte, así que llamé a la oficina y dijeron que tenía que ver con la sombra en mis ojos y la iluminación desigual en la cara", dijo Lee más tarde al Daily Mail Australia. "Así que tomé algunos nuevos en Australian Post y uno de ellos pasó".

Si bien Lee finalmente pudo eludir el software, su experiencia destaca cómo los sesgos pueden convertirse en sistemas aparentemente imparciales. Las primeras películas en color, por ejemplo, estaban optimizadas para la piel blanca, lo que dificultaba exponer correctamente a las personas de color. Y desde que Facebook comenzó a hacer cumplir su política de "nombre real", los usuarios nativos americanos con nombres como "Creepingbear" han informado repetidamente que fueron suspendidos del sitio.

Lee, sin embargo, dice que personalmente no se inmutó por el incidente.

"El mensaje de error no me molestó tanto, vi el humor en él y obviamente es un error de programación en el software de reconocimiento", dijo Lee. "Solo un poco molesto por la demora y espero recibir una respuesta del personal después de 3 envíos fallidos".

[Mashable]

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd