Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 851

Incidents associés

Incident 4820 Rapports
Passport checker Detects Asian man's Eyes as Closed

Loading...
Un robot de passeport enfilé "raciste", dit à un candidat d'origine asiatique d'ouvrir les yeux
tenplay.com.au · 2016

Un Néo-Zélandais d'origine asiatique a vu sa photo de passeport rejetée lorsqu'un logiciel de reconnaissance faciale a enregistré ses yeux comme étant fermés.

Richard Lee tentait de renouveler son passeport afin de pouvoir retourner en Australie depuis la Nouvelle-Zélande après Noël, mais a été bloqué après avoir soumis la photo à un vérificateur de photos de passeport en ligne géré par le département des affaires intérieures de la Nouvelle-Zélande.

Le système automatisé a indiqué à l'étudiant ingénieur de 22 ans que la photo n'était pas valide parce que ses yeux étaient fermés, même s'ils étaient clairement ouverts, selon une copie de la notification qui a été publiée sur Facebook par ses amis.

Cependant, le jeune DJ, étudiant actuellement en ingénierie aérospatiale et en gestion d'entreprise à Melbourne, pourrait voir le côté plus léger.

"Sans rancune de ma part, j'ai toujours eu de très petits yeux et la technologie de reconnaissance faciale est relativement nouvelle et peu sophistiquée", a déclaré M. Lee.

"C'était un robot, pas de rancune. J'ai finalement fait renouveler mon passeport."

Jusqu'à 20% des photos de passeport soumises en ligne sont rejetées pour diverses raisons, a déclaré un porte-parole des affaires internes.

"L'erreur la plus courante est la fermeture des yeux d'un sujet et c'était le message d'erreur générique envoyé dans ce cas", a-t-il déclaré.

L'éclairage de la première photo de Lee était inégal, mais un autre plus tard a été accepté.

Après que ses amis aient publié une image de la gaffe sur Facebook, les utilisateurs des médias sociaux ont commencé à suggérer que la machine était raciste.

"La technologie devient raciste", a écrit un utilisateur.

"Mec, ses yeux sont clairement ouverts", a posté un autre.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd