Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 844

Incidents associés

Incident 4820 Rapports
Passport checker Detects Asian man's Eyes as Closed

Loading...
Le site Web des passeports néo-zélandais rejette la photo d'un homme asiatique pour avoir les yeux "fermés"
gizmodo.com.au · 2016

Toute personne confrontée à la complexité des exigences en matière de photos de passeport sauterait probablement sur l'occasion de faire vérifier ses photos en ligne, mais les systèmes automatisés peuvent avoir leurs propres complications, comme l'a récemment appris un Néo-Zélandais.

Capture d'écran : YouTube/Département des affaires intérieures de la Nouvelle-Zélande

Richard Lee, 22 ans, utilisait le vérificateur de passeports en ligne de son pays lorsqu'il a rencontré une erreur inattendue : le site Web a déclaré que sa photo était inacceptable car "les yeux du sujet sont fermés". Les yeux de Lee, bien sûr, étaient ouverts, ils avaient juste des plis épicanthiques.

Photo : Facebook

"J'en ai essayé différents et pas de chance, alors j'ai appelé le bureau, ils ont dit que c'était à cause de l'ombre dans mes yeux et d'un éclairage inégal sur le visage", a déclaré Lee plus tard à Daily Mail Australia. "Alors j'en ai pris quelques nouveaux à l'Australian Post et l'un d'eux est passé."

Bien que Lee ait finalement pu contourner le logiciel, son expérience montre comment les préjugés peuvent être intégrés dans des systèmes apparemment impartiaux. Les premiers films couleur, par exemple, étaient optimisés pour les peaux blanches, ce qui rendait difficile l'exposition correcte des personnes de couleur. Et depuis que Facebook a commencé à appliquer sa politique de "vrai nom", les utilisateurs amérindiens portant des noms comme "Creepingbear" ont signalé à plusieurs reprises avoir été suspendus du site.

Lee, cependant, dit qu'il était personnellement imperturbable par l'incident.

"Le message d'erreur ne m'a pas trop dérangé, j'y ai vu de l'humour et c'est évidemment une erreur de programmation dans le logiciel de reconnaissance", a déclaré Lee. "Juste un peu ennuyeux avec le retard et je m'attends à recevoir une réponse du personnel après 3 soumissions infructueuses."

[Mashable]

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd