Journal des citations pour l'incident 48

Description: New Zealand passport robot reader rejects the application of an applicant with Asian descent and says his eyes are closed.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique
Présumé : Un système d'IA développé et mis en œuvre par New Zealand, endommagé Asian People.

Statistiques d'incidents

ID
48
Nombre de rapports
22
Date de l'incident
2016-12-07
Editeurs
Sean McGregor

Classifications de taxonomie CSETv0

Détails de la taxonomie

Full Description

Richard Lee, a New Zealander of Asian descent had submitted his ID photo to an online photo checker at New Zealand's Department of Internal Affairs and was told his eyes were closed. He was trying to renew his passport so he could return to Australia where he was studying aerospace engineering in Melbourne in December 2016. When asked about the incident, Lee said, "No hard feelings on my part, I've always had very small eyes and facial recognition technology is relatively new and unsophisticated."

Short Description

New Zealand passport robot reader rejects the application of an applicant with Asian descent and says his eyes are closed.

Severity

Negligible

Harm Distribution Basis

Race

Harm Type

Harm to civil liberties

AI System Description

The facial recognition software used by New Zealand's Department of Internal Affairs detects passport photos to make sure they meet all the government requirement.

Sector of Deployment

Administrative and support service activities

Relevant AI functions

Perception, Cognition, Action

AI Techniques

Facial recognition

AI Applications

Facial recognition

Location

New Zealand

Named Entities

New Zealand, Richard Lee, Department of Internal Affairs

Technology Purveyor

New Zealand's Department of Internal Affairs

Beginning Date

12/2016

Ending Date

12/2016

Near Miss

Unclear/unknown

Intent

Accident

Lives Lost

No

Data Inputs

ID photos

Une erreur de passeport voit une photo rejetée pour "yeux fermés"
newshub.co.nz · 2016

(Richard Lee / Facebook)

Le ministère des Affaires intérieures s'est retrouvé dans une gaffe après qu'un jeune homme asiatique soumettant une photo pour son passeport l'ait rejetée en raison des «yeux fermés».

Richard Lee est un Kiwi vivant…

Un vérificateur de passeport robot rejette la photo d'un homme asiatique pour avoir fermé les yeux
telegraph.co.uk · 2016

Un homme d'origine asiatique en Nouvelle-Zélande a vu sa demande de passeport rejetée après que le logiciel qui approuve les photos a affirmé qu'il avait les yeux fermés.

Richard Lee, un DJ et étudiant de 22 ans, s'est vu refuser sa photo p…

Un robot de passeport néo-zélandais dit au demandeur d'origine asiatique d'ouvrir les yeux
reuters.com · 2016

Une capture d'écran de l'avis de refus de photo de passeport de l'homme néo-zélandais Richard Lee, fourni à Reuters le 7 décembre 2016. Richard Lee/Handout via REUTERS

SYDNEY (Reuters) – Un Néo-Zélandais d'origine asiatique a vu sa photo de…

La photo d'un homme asiatique est rejetée par le logiciel de photo de passeport néo-zélandais parce que ses "yeux étaient fermés"
thesun.co.uk · 2016

La photo de passeport d'un homme asiatique a été rejetée par le gouvernement néo-zélandais après que son logiciel de reconnaissance faciale a affirmé que ses « yeux étaient fermés ».

Richard Lee, originaire de Taïwan, a partagé une capture …

Un lecteur de passeport néo-zélandais accuse un Asiatique d'avoir "les yeux fermés"
theinquirer.net · 2016

DÉPLACEZ-VOUS Prince Philip, vos remarques racistes sur les expressions faciales asiatiques ne sont rien comparées au geste d'un robot de reconnaissance faciale vérifiant les passeports.

Richard Lee, 22 ans, n'a pas pu renouveler son passep…

Le gouvernement néo-zélandais accusé de racisme après l'échec d'un logiciel de renouvellement de passeport sur la photo d'un homme asiatique
news.com.au · 2016

Le gouvernement néo-zélandais a été accusé d'être raciste après que son logiciel de renouvellement de passeport n'ait pas reconnu la photo d'un homme asiatique.

Richard Lee est originaire de Taïwan mais a grandi en Nouvelle-Zélande. Il a de…

Un robot raciste rejette la photo de passeport d'un homme asiatique, affirmant que "les yeux sont fermés"
nydailynews.com · 2016

À tout le moins, Lee avait le sens de l'humour face à la situation. À l'aide d'un filtre Snapchat qui exagérait légèrement ses traits, il a pris une autre photo dans laquelle ses yeux étaient plus adaptés aux robots.

Robot raciste ? Le site Web du gouvernement néo-zélandais demande à un homme asiatique d'ouvrir les yeux et refuse son passeport
indiatoday.in · 2016

Un Néo-Zélandais d'origine asiatique a vu sa photo de passeport rejetée lorsqu'un logiciel de reconnaissance faciale a enregistré par erreur ses yeux comme étant fermés.

La tentative de renouvellement de passeport de Richard Lee a été bloqu…

La reconnaissance faciale indique à un homme asiatique que ses yeux sont fermés
digitaltrends.com · 2016

La reconnaissance faciale est une technologie cool, mais elle n'est pas parfaite. Il est utilisé dans de nombreuses applications et services pour fournir un moyen de vérification plus simple, comme Windows Hello utilisant la technologie pou…

Un logiciel de reconnaissance faciale rejette la photo de passeport d'un homme asiatique car il pense que ses yeux sont fermés
techspot.com · 2016

Un logiciel peut-il être raciste ? Non, bien que les humains puissent par inadvertance concevoir des programmes qui semblent insensibles à la race ou, comme ce fut le cas avec le chatbot Tay de Microsoft, transformer intentionnellement une …

Le site Web des passeports néo-zélandais rejette la photo d'un homme asiatique pour avoir les yeux "fermés"
gizmodo.com.au · 2016

Toute personne confrontée à la complexité des exigences en matière de photos de passeport sauterait probablement sur l'occasion de faire vérifier ses photos en ligne, mais les systèmes automatisés peuvent avoir leurs propres complications, …

Un algorithme a rejeté la photo de passeport d'un homme asiatique pour avoir "les yeux fermés"
qz.com · 2016

Un autre coup contre les robots.

Plus tôt cette semaine, un Néo-Zélandais asiatique a posté une capture d'écran sur Facebook montrant que sa photo de passeport était rejetée pour avoir les yeux fermés, même s'ils sont visiblement ouverts. R…

Un Néo-Zélandais déclare que le refus de photo de passeport n'est "pas raciste"
bbc.com · 2016

Copyright de l'image Reuters/Richard Lee

Un Néo-Zélandais d'origine asiatique a ignoré le rejet d'une photo de demande de passeport par un logiciel à cause de ses yeux.

Le système a envoyé un message d'erreur après avoir décidé que les yeux…

Une machine à passeport raciste rejette la photo parce que "les yeux du sujet sont fermés"
elitereaders.com · 2016

Personne n'aime sa photo de passeport. Peu importe à quel point vous vous habillez, arrangez vos cheveux ou maquillez-vous, vous aurez toujours l'air un peu maladroit avec un visage impassible, les oreilles écartées et face à la caméra.

Eh …

Photo de passeport rejetée par un robot de reconnaissance faciale «raciste» en Nouvelle-Zélande
dailystar.co.uk · 2016

REFUSÉ : Les robots n'ont pas accepté cette photo

Richard Lee, 22 ans, a envoyé une photo à un nouveau vérificateur de photos de passeport en ligne géré par le gouvernement néo-zélandais.

Mais le système automatisé a dit au DJ et étudiant e…

Un homme voit de l'humour dans un logiciel de reconnaissance faciale "raciste"
nzherald.co.nz · 2016

Un Néo-Zélandais d'origine asiatique a vu sa photo de passeport rejetée par un site Web gouvernemental lorsque son logiciel de reconnaissance faciale a enregistré ses yeux comme étant fermés.

Richard Lee tentait de renouveler son passeport …

Un robot "raciste" rejette une photo de passeport asiatique
rappler.com · 2016

Une réponse générée par ordinateur a déclaré que la photo d'un Néo-Zélandais d'origine asiatique ne répondait pas aux critères néo-zélandais car les "yeux sont fermés"

Publié le 08 décembre 2016 à 09h24

WELLINGTON, Nouvelle-Zélande – Un Néo…

Un robot de passeport enfilé "raciste", dit à un candidat d'origine asiatique d'ouvrir les yeux
tenplay.com.au · 2016

Un Néo-Zélandais d'origine asiatique a vu sa photo de passeport rejetée lorsqu'un logiciel de reconnaissance faciale a enregistré ses yeux comme étant fermés.

Richard Lee tentait de renouveler son passeport afin de pouvoir retourner en Aust…

Le robot passeport néo-zélandais pense que les yeux de cet homme asiatique sont fermés
edition.cnn.com · 2016

(CNN) C'est un désagrément courant, vous remplissez un formulaire en ligne et vous obtenez une erreur.

Le Néo-Zélandais Richard Lee demandait un passeport en ligne lorsque le système s'est opposé à l'image qu'il avait téléchargée.

"La photo…

Une demande de passeport "raciste" exaspère un citoyen néo-zélandais de 10 ans
stuff.co.nz · 2017

Une femme de Palmerston North allègue qu'elle a fait l'objet d'un profilage racial par un travailleur du centre de santé qui a déclaré qu'elle ne ressemblait pas à un Kiwi et a demandé une preuve de passeport de sa citoyenneté néo-zélandais…

Le vérificateur de photos de passeport néo-zélandais rejette la photo d'un homme asiatique et dit qu'il a les yeux fermés
boredpanda.com · 2017

Regardez cette photo de Richard Lee, 22 ans. Ses yeux vous semblent-ils ouverts ? Bien sûr qu'ils le font. Mais cela n'a pas empêché un système automatisé en ligne de refuser le renouvellement de son passeport car, selon le logiciel de reco…

Une machine à passeport "raciste" accuse un homme asiatique d'avoir les yeux fermés
rt.com · 2019

Un scanner de passeport néo-zélandais a commis une erreur «raciste» en rejetant la photo d'un homme d'origine asiatique parce qu'il pensait que ses yeux étaient fermés.

Richard Lee a vu son renouvellement de passeport bloqué lorsqu'il a sou…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents