Registro de citas para el Incidente 48

Description: New Zealand passport robot reader rejects the application of an applicant with Asian descent and says his eyes are closed.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial
Presunto: un sistema de IA desarrollado e implementado por New Zealand, perjudicó a Asian People.

Estadísticas de incidentes

ID
48
Cantidad de informes
22
Fecha del Incidente
2016-12-07
Editores
Sean McGregor

Clasificaciones de la Taxonomía CSETv0

Detalles de la Taxonomía

Full Description

Richard Lee, a New Zealander of Asian descent had submitted his ID photo to an online photo checker at New Zealand's Department of Internal Affairs and was told his eyes were closed. He was trying to renew his passport so he could return to Australia where he was studying aerospace engineering in Melbourne in December 2016. When asked about the incident, Lee said, "No hard feelings on my part, I've always had very small eyes and facial recognition technology is relatively new and unsophisticated."

Short Description

New Zealand passport robot reader rejects the application of an applicant with Asian descent and says his eyes are closed.

Severity

Negligible

Harm Distribution Basis

Race

Harm Type

Harm to civil liberties

AI System Description

The facial recognition software used by New Zealand's Department of Internal Affairs detects passport photos to make sure they meet all the government requirement.

Sector of Deployment

Administrative and support service activities

Relevant AI functions

Perception, Cognition, Action

AI Techniques

Facial recognition

AI Applications

Facial recognition

Location

New Zealand

Named Entities

New Zealand, Richard Lee, Department of Internal Affairs

Technology Purveyor

New Zealand's Department of Internal Affairs

Beginning Date

12/2016

Ending Date

12/2016

Near Miss

Unclear/unknown

Intent

Accident

Lives Lost

No

Data Inputs

ID photos

Error de pasaporte ve foto rechazada por 'ojos cerrados'
newshub.co.nz · 2016

(Richard Lee / Facebook)

El Departamento de Asuntos Internos se ha visto envuelto en un pequeño error después de que un joven asiático que envió una foto para su pasaporte fue rechazada debido a "ojos cerrados".

Richard Lee es un kiwi que v…

Robot verificador de pasaportes rechaza foto de hombre asiático por tener los ojos cerrados
telegraph.co.uk · 2016

A un hombre de ascendencia asiática en Nueva Zelanda se le rechazó la solicitud de pasaporte después de que el software que aprueba las fotos afirmara que tenía los ojos cerrados.

El sitio web de solicitudes del Departamento de Asuntos Inte…

El robot de pasaporte de Nueva Zelanda le dice al solicitante de ascendencia asiática que abra los ojos
reuters.com · 2016

Una captura de pantalla del aviso de rechazo de la foto del pasaporte del neozelandés Richard Lee, proporcionada a Reuters el 7 de diciembre de 2016. Richard Lee/Folleto a través de REUTERS

SYDNEY (Reuters) - A un neozelandés de ascendencia…

La foto de un hombre asiático es rechazada por el software de fotos de pasaporte de Nueva Zelanda porque sus "ojos estaban cerrados"
thesun.co.uk · 2016

La foto del pasaporte de un hombre asiático fue rechazada por el gobierno de Nueva Zelanda después de que su software de reconocimiento facial afirmara que tenía los "ojos cerrados".

Richard Lee, originario de Taiwán, compartió una captura …

El lector de pasaportes de Nueva Zelanda acusa a un asiático de tener "los ojos cerrados"
theinquirer.net · 2016

MUÉVETE Príncipe Felipe, tus comentarios racistas sobre las expresiones faciales de los asiáticos no son nada comparados con el gesto de un robot de reconocimiento facial que verifica pasaportes.

Richard Lee, de 22 años, no pudo renovar su …

El gobierno de Nueva Zelanda acusado de racismo después de que el software de renovación de pasaporte 'fallara' en la foto de un hombre asiático
news.com.au · 2016

EL gobierno de NUEVA Zelanda fue acusado de ser racista después de que su software de renovación de pasaporte no reconociera la foto de un hombre asiático.

Richard Lee es de Taiwán pero creció en Nueva Zelanda. Desde entonces se mudó a Aust…

Robot racista rechaza la foto del pasaporte de un hombre asiático, alegando que "los ojos están cerrados"
nydailynews.com · 2016

Como mínimo, Lee tenía sentido del humor sobre la situación. Usando un filtro de Snapchat que exageraba ligeramente sus rasgos, tomó otra foto en la que sus ojos eran más amigables con los de un robot.

¿Robot racista? El sitio web del gobierno de Nueva Zelanda le dice a un hombre asiático que abra los ojos, rechaza el pasaporte
indiatoday.in · 2016

A un hombre de ascendencia asiática de Nueva Zelanda se le rechazó la fotografía de su pasaporte cuando un software de reconocimiento facial registró por error que sus ojos estaban cerrados.

El intento de Richard Lee de renovar su pasaporte…

El reconocimiento facial le dice a un hombre asiático que tiene los ojos cerrados
digitaltrends.com · 2016

El reconocimiento facial es una tecnología genial, pero no es perfecta. Se usa en muchas aplicaciones y servicios para proporcionar un medio de verificación más fácil, como Windows Hello que usa la tecnología para desbloquear Windows 10 par…

El software de reconocimiento facial rechaza la foto del pasaporte de un hombre asiático porque cree que tiene los ojos cerrados
techspot.com · 2016

¿Puede el software ser racista? No, aunque los humanos pueden, sin darse cuenta, diseñar programas que parezcan racialmente insensibles o, como fue el caso del chatbot Tay de Microsoft, convertir intencionalmente una IA en un incitador del …

Sitio web de pasaportes de Nueva Zelanda rechaza foto de hombre asiático por tener los ojos "cerrados"
gizmodo.com.au · 2016

Cualquiera que haya lidiado con las complejidades de los requisitos de la foto del pasaporte probablemente aprovecharía la oportunidad de verificar sus fotos en línea, pero los sistemas automatizados pueden tener sus propias complicaciones,…

Un algoritmo rechazó la foto del pasaporte de un hombre asiático por tener "los ojos cerrados"
qz.com · 2016

Otro golpe contra los robots.

A principios de esta semana, un neozelandés asiático publicó una captura de pantalla en Facebook que mostraba que su foto de pasaporte había sido rechazada por tener los ojos cerrados, a pesar de que estaban vi…

Neozelandés dice que el rechazo de la foto del pasaporte "no es racista"
bbc.com · 2016

Derechos de autor de la imagen Reuters/Richard Lee

Un neozelandés de ascendencia asiática se encogió de hombros ante el rechazo de una foto de solicitud de pasaporte por parte de un software debido a sus ojos.

El sistema envió un mensaje de…

Máquina racista de pasaportes rechaza foto porque "los ojos del sujeto están cerrados"
elitereaders.com · 2016

A nadie le gusta su foto de pasaporte. No importa qué tan bien te vistas, te arregles el cabello o te maquilles, siempre te verás un poco incómodo con una cara de póquer, las orejas hacia afuera y mirando a la cámara de frente.

Bueno, un ho…

Foto de pasaporte rechazada por robot de reconocimiento facial 'racista' en Nueva Zelanda
dailystar.co.uk · 2016

RECHAZADO: Los robots no aceptaron esta fotografía

Richard Lee, de 22 años, envió una foto a un nuevo verificador de fotos de pasaportes en línea administrado por el gobierno de Nueva Zelanda.

Pero el sistema automatizado le dijo al furioso…

Hombre ve humor en software de reconocimiento facial 'racista'
nzherald.co.nz · 2016

Un sitio web del gobierno rechazó la foto del pasaporte de un hombre de ascendencia asiática de Nueva Zelanda cuando su software de reconocimiento facial registró que sus ojos estaban cerrados.

Richard Lee estaba tratando de renovar su pasa…

Robot 'racista' rechaza foto de pasaporte con rostro asiático
rappler.com · 2016

Una respuesta generada por computadora dijo que la foto de un neozelandés de ascendencia asiática no cumplía con los criterios de Nueva Zelanda porque los "ojos están cerrados".

Publicado 9:24 AM, 08 de diciembre de 2016

WELLINGTON, Nueva Z…

Pasaporte robot se puso 'racista', le dice al solicitante de ascendencia asiática que abra los ojos
tenplay.com.au · 2016

A un hombre de ascendencia asiática de Nueva Zelanda se le rechazó la foto del pasaporte cuando el software de reconocimiento facial registró que sus ojos estaban cerrados.

Richard Lee estaba tratando de renovar su pasaporte para poder regr…

El robot del pasaporte de Nueva Zelanda cree que los ojos de este hombre asiático están cerrados
edition.cnn.com · 2016

(CNN) — Es una molestia común, estás completando un formulario en línea y recibes un error.

El neozelandés Richard Lee estaba solicitando un pasaporte en línea cuando el sistema se opuso a la imagen que cargó.

"La foto que quieres subir no …

Solicitud de pasaporte 'racista' irrita a ciudadano neozelandés de 10 años
stuff.co.nz · 2017

Una mujer de Palmerston North alega que un trabajador del centro de salud la perfiló racialmente porque dijo que no se parecía a un kiwi y pidió una prueba de pasaporte de su ciudadanía neozelandesa.

Pero el centro de salud dice que la situ…

El verificador de fotos del pasaporte de Nueva Zelanda rechaza la foto de un chico asiático, dice que tiene los ojos cerrados
boredpanda.com · 2017

Mira esta foto de Richard Lee, de 22 años. ¿Sus ojos parecen abiertos para ti? Por supuesto que lo hacen. Pero eso no impidió que un sistema automatizado en línea rechazara la renovación de su pasaporte porque, según el software de reconoci…

Máquina de pasaportes 'racista' acusa a hombre asiático de tener los ojos cerrados
rt.com · 2019

Un escáner de pasaportes de Nueva Zelanda cometió un error "racista" cuando rechazó la foto de un hombre de ascendencia asiática porque pensó que tenía los ojos cerrados.

A Richard Lee se le bloqueó la renovación de su pasaporte cuando envi…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents