Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 845

Loading...
El gobierno de Nueva Zelanda acusado de racismo después de que el software de renovación de pasaporte 'fallara' en la foto de un hombre asiático
news.com.au · 2016

EL gobierno de NUEVA Zelanda fue acusado de ser racista después de que su software de renovación de pasaporte no reconociera la foto de un hombre asiático.

Richard Lee es de Taiwán pero creció en Nueva Zelanda. Desde entonces se mudó a Australia y fue a renovar su pasaporte en línea el martes por la mañana para poder regresar a casa en Navidad.

Nunca antes había renovado su pasaporte y se sorprendió bastante cuando el software de reconocimiento facial no pudo aceptar su foto de pasaporte.

Apareció un mensaje de error incómodo en la pantalla que decía: "La foto que desea cargar no cumple con nuestros criterios porque: los ojos del sujeto están cerrados".

Los ojos del Sr. Lee estaban claramente abiertos.

“Probé algunos diferentes y no tuve suerte”, dijo a news.com.au.

“Así que llamé a la oficina de pasaportes y me dijeron que tenía sombras en los ojos y también una iluminación desigual en la cara, lo que dificulta el procesamiento del software”.

El Sr. Lee, también conocido como DJ Richy Fancy, se tomó nuevas fotos de pasaporte en una oficina de correos de Australia.

“Afortunadamente uno de ellos logró pasar”, dijo.

Lee, de 22 años, subió una foto de su pasaporte rechazado a Facebook porque lo encontró divertido.

“Como, sé que tengo ojos pequeños, así que no es nada racista. De hecho, es impresionante que una computadora pueda darse cuenta de eso”, dijo.

“Como si fuera obviamente un error de programación, nada racista”.

Pero muchas personas fueron mucho menos indulgentes, considerando que sus ojos estaban claramente abiertos.

“La tecnología se está volviendo racista”, comentó una persona.

Varios otros dijeron que también les había sucedido en el pasado.

El Sr. Lee dijo que era agradable ver cuántos australianos y neozelandeses lo apoyaban.

“Y también cuántos de mis compatriotas asiáticos vieron humor en ello”, dijo.

“Como, hay situaciones en las que obviamente tienes que ponerte de pie, pero otras veces realmente es una gran risa”.

El Departamento de Asuntos Internos de Nueva Zelanda dijo a news.com.au que el software era "uno de los más avanzados tecnológicamente del mundo".

“Hasta el 20 por ciento de las fotos enviadas en línea son rechazadas por una gran variedad de razones”, dijo un portavoz del departamento.

“Las primeras fotos en este caso contenían una iluminación desigual en el rostro del individuo, pero se aceptó una posterior el mismo día.

“El error más común es que los ojos de un sujeto estén cerrados y ese fue el mensaje de error genérico enviado en ese caso”.

El portavoz dijo que el departamento tenía plena confianza en los sistemas y no creía que discriminaran a ninguna persona específica.

El departamento emite alrededor de 25,000 solicitudes en línea al mes y más de la mitad de las renovaciones de adultos elegibles se realizan digitalmente.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd