Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Incident 48: Passport checker Detects Asian man's Eyes as Closed

Description: New Zealand passport robot reader rejects the application of an applicant with Asian descent and says his eyes are closed.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Présumé : Un système d'IA développé et mis en œuvre par New Zealand, a endommagé Asian People.

Statistiques d'incidents

ID
48
Nombre de rapports
22
Date de l'incident
2016-12-07
Editeurs
Sean McGregor
Applied Taxonomies
CSETv0, CSETv1, GMF, MIT

Classifications de taxonomie CSETv0

Détails de la taxonomie

Problem Nature

Indicates which, if any, of the following types of AI failure describe the incident: "Specification," i.e. the system's behavior did not align with the true intentions of its designer, operator, etc; "Robustness," i.e. the system operated unsafely because of features or changes in its environment, or in the inputs the system received; "Assurance," i.e. the system could not be adequately monitored or controlled during operation.
 

Unknown/unclear

Physical System

Where relevant, indicates whether the AI system(s) was embedded into or tightly associated with specific types of hardware.
 

Software only

Level of Autonomy

The degree to which the AI system(s) functions independently from human intervention. "High" means there is no human involved in the system action execution; "Medium" means the system generates a decision and a human oversees the resulting action; "low" means the system generates decision-support output and a human makes a decision and executes an action.
 

Medium

Nature of End User

"Expert" if users with special training or technical expertise were the ones meant to benefit from the AI system(s)’ operation; "Amateur" if the AI systems were primarily meant to benefit the general public or untrained users.
 

Amateur

Public Sector Deployment

"Yes" if the AI system(s) involved in the accident were being used by the public sector or for the administration of public goods (for example, public transportation). "No" if the system(s) were being used in the private sector or for commercial purposes (for example, a ride-sharing company), on the other.
 

No

Data Inputs

A brief description of the data that the AI system(s) used or were trained on.
 

ID photos

Classifications de taxonomie CSETv1

Détails de la taxonomie

Incident Number

The number of the incident in the AI Incident Database.
 

48

Special Interest Intangible Harm

An assessment of whether a special interest intangible harm occurred. This assessment does not consider the context of the intangible harm, if an AI was involved, or if there is characterizable class or subgroup of harmed entities. It is also not assessing if an intangible harm occurred. It is only asking if a special interest intangible harm occurred.
 

yes

Date of Incident Year

The year in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the year, estimate. Otherwise, leave blank. Enter in the format of YYYY
 

2016

Date of Incident Month

The month in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the month, estimate. Otherwise, leave blank. Enter in the format of MM
 

12

Estimated Date

“Yes” if the data was estimated. “No” otherwise.
 

No

Multiple AI Interaction

“Yes” if two or more independently operating AI systems were involved. “No” otherwise.
 

no

Classifications de taxonomie MIT

Machine-Classified
Détails de la taxonomie

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

1.3. Unequal performance across groups

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Discrimination and Toxicity

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Rapports d'incidents

Chronologie du rapport

+20
Une erreur de passeport voit une photo rejetée pour "yeux fermés"
Le vérificateur de photos de passeport néo-zélandais rejette la photo d'un homme asiatique et dit qu'il a les yeux fermésUne machine à passeport "raciste" accuse un homme asiatique d'avoir les yeux fermés
Une erreur de passeport voit une photo rejetée pour "yeux fermés"

Une erreur de passeport voit une photo rejetée pour "yeux fermés"

newshub.co.nz

Un vérificateur de passeport robot rejette la photo d'un homme asiatique pour avoir fermé les yeux

Un vérificateur de passeport robot rejette la photo d'un homme asiatique pour avoir fermé les yeux

telegraph.co.uk

Un robot de passeport néo-zélandais dit au demandeur d'origine asiatique d'ouvrir les yeux

Un robot de passeport néo-zélandais dit au demandeur d'origine asiatique d'ouvrir les yeux

reuters.com

La photo d'un homme asiatique est rejetée par le logiciel de photo de passeport néo-zélandais parce que ses "yeux étaient fermés"

La photo d'un homme asiatique est rejetée par le logiciel de photo de passeport néo-zélandais parce que ses "yeux étaient fermés"

thesun.co.uk

Un lecteur de passeport néo-zélandais accuse un Asiatique d'avoir "les yeux fermés"

Un lecteur de passeport néo-zélandais accuse un Asiatique d'avoir "les yeux fermés"

theinquirer.net

Le gouvernement néo-zélandais accusé de racisme après l'échec d'un logiciel de renouvellement de passeport sur la photo d'un homme asiatique

Le gouvernement néo-zélandais accusé de racisme après l'échec d'un logiciel de renouvellement de passeport sur la photo d'un homme asiatique

news.com.au

Un robot raciste rejette la photo de passeport d'un homme asiatique, affirmant que "les yeux sont fermés"

Un robot raciste rejette la photo de passeport d'un homme asiatique, affirmant que "les yeux sont fermés"

nydailynews.com

Robot raciste ? Le site Web du gouvernement néo-zélandais demande à un homme asiatique d'ouvrir les yeux et refuse son passeport

Robot raciste ? Le site Web du gouvernement néo-zélandais demande à un homme asiatique d'ouvrir les yeux et refuse son passeport

indiatoday.in

La reconnaissance faciale indique à un homme asiatique que ses yeux sont fermés

La reconnaissance faciale indique à un homme asiatique que ses yeux sont fermés

digitaltrends.com

Un logiciel de reconnaissance faciale rejette la photo de passeport d'un homme asiatique car il pense que ses yeux sont fermés

Un logiciel de reconnaissance faciale rejette la photo de passeport d'un homme asiatique car il pense que ses yeux sont fermés

techspot.com

Le site Web des passeports néo-zélandais rejette la photo d'un homme asiatique pour avoir les yeux "fermés"

Le site Web des passeports néo-zélandais rejette la photo d'un homme asiatique pour avoir les yeux "fermés"

gizmodo.com.au

Un algorithme a rejeté la photo de passeport d'un homme asiatique pour avoir "les yeux fermés"

Un algorithme a rejeté la photo de passeport d'un homme asiatique pour avoir "les yeux fermés"

qz.com

Un Néo-Zélandais déclare que le refus de photo de passeport n'est "pas raciste"

Un Néo-Zélandais déclare que le refus de photo de passeport n'est "pas raciste"

bbc.com

Une machine à passeport raciste rejette la photo parce que "les yeux du sujet sont fermés"

Une machine à passeport raciste rejette la photo parce que "les yeux du sujet sont fermés"

elitereaders.com

Photo de passeport rejetée par un robot de reconnaissance faciale «raciste» en Nouvelle-Zélande

Photo de passeport rejetée par un robot de reconnaissance faciale «raciste» en Nouvelle-Zélande

dailystar.co.uk

Un homme voit de l'humour dans un logiciel de reconnaissance faciale "raciste"

Un homme voit de l'humour dans un logiciel de reconnaissance faciale "raciste"

nzherald.co.nz

Un robot "raciste" rejette une photo de passeport asiatique

Un robot "raciste" rejette une photo de passeport asiatique

rappler.com

Un robot de passeport enfilé "raciste", dit à un candidat d'origine asiatique d'ouvrir les yeux

Un robot de passeport enfilé "raciste", dit à un candidat d'origine asiatique d'ouvrir les yeux

tenplay.com.au

Le robot passeport néo-zélandais pense que les yeux de cet homme asiatique sont fermés

Le robot passeport néo-zélandais pense que les yeux de cet homme asiatique sont fermés

edition.cnn.com

Une demande de passeport "raciste" exaspère un citoyen néo-zélandais de 10 ans

Une demande de passeport "raciste" exaspère un citoyen néo-zélandais de 10 ans

stuff.co.nz

Le vérificateur de photos de passeport néo-zélandais rejette la photo d'un homme asiatique et dit qu'il a les yeux fermés

Le vérificateur de photos de passeport néo-zélandais rejette la photo d'un homme asiatique et dit qu'il a les yeux fermés

boredpanda.com

Une machine à passeport "raciste" accuse un homme asiatique d'avoir les yeux fermés

Une machine à passeport "raciste" accuse un homme asiatique d'avoir les yeux fermés

rt.com

Une erreur de passeport voit une photo rejetée pour "yeux fermés"
newshub.co.nz · 2016
Traduit par IA

(Richard Lee / Facebook)

Le ministère des Affaires intérieures s'est retrouvé dans une gaffe après qu'un jeune homme asiatique soumettant une photo pour son passeport l'ait rejetée en raison des «yeux fermés».

Richard Lee est un Kiwi vivant…

Un vérificateur de passeport robot rejette la photo d'un homme asiatique pour avoir fermé les yeux
telegraph.co.uk · 2016
Traduit par IA

Un homme d'origine asiatique en Nouvelle-Zélande a vu sa demande de passeport rejetée après que le logiciel qui approuve les photos a affirmé qu'il avait les yeux fermés.

Richard Lee, un DJ et étudiant de 22 ans, s'est vu refuser sa photo p…

Un robot de passeport néo-zélandais dit au demandeur d'origine asiatique d'ouvrir les yeux
reuters.com · 2016
Traduit par IA

Une capture d'écran de l'avis de refus de photo de passeport de l'homme néo-zélandais Richard Lee, fourni à Reuters le 7 décembre 2016. Richard Lee/Handout via REUTERS

SYDNEY (Reuters) – Un Néo-Zélandais d'origine asiatique a vu sa photo de…

La photo d'un homme asiatique est rejetée par le logiciel de photo de passeport néo-zélandais parce que ses "yeux étaient fermés"
thesun.co.uk · 2016
Traduit par IA

La photo de passeport d'un homme asiatique a été rejetée par le gouvernement néo-zélandais après que son logiciel de reconnaissance faciale a affirmé que ses « yeux étaient fermés ».

Richard Lee, originaire de Taïwan, a partagé une capture …

Un lecteur de passeport néo-zélandais accuse un Asiatique d'avoir "les yeux fermés"
theinquirer.net · 2016
Traduit par IA

DÉPLACEZ-VOUS Prince Philip, vos remarques racistes sur les expressions faciales asiatiques ne sont rien comparées au geste d'un robot de reconnaissance faciale vérifiant les passeports.

Richard Lee, 22 ans, n'a pas pu renouveler son passep…

Le gouvernement néo-zélandais accusé de racisme après l'échec d'un logiciel de renouvellement de passeport sur la photo d'un homme asiatique
news.com.au · 2016
Traduit par IA

Le gouvernement néo-zélandais a été accusé d'être raciste après que son logiciel de renouvellement de passeport n'ait pas reconnu la photo d'un homme asiatique.

Richard Lee est originaire de Taïwan mais a grandi en Nouvelle-Zélande. Il a de…

Un robot raciste rejette la photo de passeport d'un homme asiatique, affirmant que "les yeux sont fermés"
nydailynews.com · 2016
Traduit par IA

À tout le moins, Lee avait le sens de l'humour face à la situation. À l'aide d'un filtre Snapchat qui exagérait légèrement ses traits, il a pris une autre photo dans laquelle ses yeux étaient plus adaptés aux robots.

Robot raciste ? Le site Web du gouvernement néo-zélandais demande à un homme asiatique d'ouvrir les yeux et refuse son passeport
indiatoday.in · 2016
Traduit par IA

Un Néo-Zélandais d'origine asiatique a vu sa photo de passeport rejetée lorsqu'un logiciel de reconnaissance faciale a enregistré par erreur ses yeux comme étant fermés.

La tentative de renouvellement de passeport de Richard Lee a été bloqu…

La reconnaissance faciale indique à un homme asiatique que ses yeux sont fermés
digitaltrends.com · 2016
Traduit par IA

La reconnaissance faciale est une technologie cool, mais elle n'est pas parfaite. Il est utilisé dans de nombreuses applications et services pour fournir un moyen de vérification plus simple, comme Windows Hello utilisant la technologie pou…

Un logiciel de reconnaissance faciale rejette la photo de passeport d'un homme asiatique car il pense que ses yeux sont fermés
techspot.com · 2016
Traduit par IA

Un logiciel peut-il être raciste ? Non, bien que les humains puissent par inadvertance concevoir des programmes qui semblent insensibles à la race ou, comme ce fut le cas avec le chatbot Tay de Microsoft, transformer intentionnellement une …

Le site Web des passeports néo-zélandais rejette la photo d'un homme asiatique pour avoir les yeux "fermés"
gizmodo.com.au · 2016
Traduit par IA

Toute personne confrontée à la complexité des exigences en matière de photos de passeport sauterait probablement sur l'occasion de faire vérifier ses photos en ligne, mais les systèmes automatisés peuvent avoir leurs propres complications, …

Un algorithme a rejeté la photo de passeport d'un homme asiatique pour avoir "les yeux fermés"
qz.com · 2016
Traduit par IA

Un autre coup contre les robots.

Plus tôt cette semaine, un Néo-Zélandais asiatique a posté une capture d'écran sur Facebook montrant que sa photo de passeport était rejetée pour avoir les yeux fermés, même s'ils sont visiblement ouverts. R…

Un Néo-Zélandais déclare que le refus de photo de passeport n'est "pas raciste"
bbc.com · 2016
Traduit par IA

Copyright de l'image Reuters/Richard Lee

Un Néo-Zélandais d'origine asiatique a ignoré le rejet d'une photo de demande de passeport par un logiciel à cause de ses yeux.

Le système a envoyé un message d'erreur après avoir décidé que les yeux…

Une machine à passeport raciste rejette la photo parce que "les yeux du sujet sont fermés"
elitereaders.com · 2016
Traduit par IA

Personne n'aime sa photo de passeport. Peu importe à quel point vous vous habillez, arrangez vos cheveux ou maquillez-vous, vous aurez toujours l'air un peu maladroit avec un visage impassible, les oreilles écartées et face à la caméra.

Eh …

Photo de passeport rejetée par un robot de reconnaissance faciale «raciste» en Nouvelle-Zélande
dailystar.co.uk · 2016
Traduit par IA

REFUSÉ : Les robots n'ont pas accepté cette photo

Richard Lee, 22 ans, a envoyé une photo à un nouveau vérificateur de photos de passeport en ligne géré par le gouvernement néo-zélandais.

Mais le système automatisé a dit au DJ et étudiant e…

Un homme voit de l'humour dans un logiciel de reconnaissance faciale "raciste"
nzherald.co.nz · 2016
Traduit par IA

Un Néo-Zélandais d'origine asiatique a vu sa photo de passeport rejetée par un site Web gouvernemental lorsque son logiciel de reconnaissance faciale a enregistré ses yeux comme étant fermés.

Richard Lee tentait de renouveler son passeport …

Un robot "raciste" rejette une photo de passeport asiatique
rappler.com · 2016
Traduit par IA

Une réponse générée par ordinateur a déclaré que la photo d'un Néo-Zélandais d'origine asiatique ne répondait pas aux critères néo-zélandais car les "yeux sont fermés"

Publié le 08 décembre 2016 à 09h24

WELLINGTON, Nouvelle-Zélande – Un Néo…

Un robot de passeport enfilé "raciste", dit à un candidat d'origine asiatique d'ouvrir les yeux
tenplay.com.au · 2016
Traduit par IA

Un Néo-Zélandais d'origine asiatique a vu sa photo de passeport rejetée lorsqu'un logiciel de reconnaissance faciale a enregistré ses yeux comme étant fermés.

Richard Lee tentait de renouveler son passeport afin de pouvoir retourner en Aust…

Le robot passeport néo-zélandais pense que les yeux de cet homme asiatique sont fermés
edition.cnn.com · 2016
Traduit par IA

(CNN) C'est un désagrément courant, vous remplissez un formulaire en ligne et vous obtenez une erreur.

Le Néo-Zélandais Richard Lee demandait un passeport en ligne lorsque le système s'est opposé à l'image qu'il avait téléchargée.

"La photo…

Une demande de passeport "raciste" exaspère un citoyen néo-zélandais de 10 ans
stuff.co.nz · 2017
Traduit par IA

Une femme de Palmerston North allègue qu'elle a fait l'objet d'un profilage racial par un travailleur du centre de santé qui a déclaré qu'elle ne ressemblait pas à un Kiwi et a demandé une preuve de passeport de sa citoyenneté néo-zélandais…

Le vérificateur de photos de passeport néo-zélandais rejette la photo d'un homme asiatique et dit qu'il a les yeux fermés
boredpanda.com · 2017
Traduit par IA

Regardez cette photo de Richard Lee, 22 ans. Ses yeux vous semblent-ils ouverts ? Bien sûr qu'ils le font. Mais cela n'a pas empêché un système automatisé en ligne de refuser le renouvellement de son passeport car, selon le logiciel de reco…

Une machine à passeport "raciste" accuse un homme asiatique d'avoir les yeux fermés
rt.com · 2019
Traduit par IA

Un scanner de passeport néo-zélandais a commis une erreur «raciste» en rejetant la photo d'un homme d'origine asiatique parce qu'il pensait que ses yeux étaient fermés.

Richard Lee a vu son renouvellement de passeport bloqué lorsqu'il a sou…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Images of Black People Labeled as Gorillas

When It Comes to Gorillas, Google Photos Remains Blind

Jun 2015 · 24 rapports
Defamation via AutoComplete

Algorithmic Defamation: The Case of the Shameless Autocomplete

Apr 2011 · 28 rapports
Picture of Woman on Side of Bus Shamed for Jaywalking

Chinese AI caught out by face in bus ad

Nov 2018 · 24 rapports
Incident précédentProchain incident

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Images of Black People Labeled as Gorillas

When It Comes to Gorillas, Google Photos Remains Blind

Jun 2015 · 24 rapports
Defamation via AutoComplete

Algorithmic Defamation: The Case of the Shameless Autocomplete

Apr 2011 · 28 rapports
Picture of Woman on Side of Bus Shamed for Jaywalking

Chinese AI caught out by face in bus ad

Nov 2018 · 24 rapports

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df