Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 862

Incidents associés

Incident 4820 Rapports
Passport checker Detects Asian man's Eyes as Closed

Loading...
Un homme voit de l'humour dans un logiciel de reconnaissance faciale "raciste"
nzherald.co.nz · 2016

Un Néo-Zélandais d'origine asiatique a vu sa photo de passeport rejetée par un site Web gouvernemental lorsque son logiciel de reconnaissance faciale a enregistré ses yeux comme étant fermés.

Richard Lee tentait de renouveler son passeport afin de pouvoir retourner en Australie depuis la Nouvelle-Zélande après Noël lundi, mais a reçu un message d'erreur gênant lorsqu'il a soumis sa photo au vérificateur de photos de passeport en ligne des Affaires intérieures.

Le système automatisé a dit au DJ de 22 ans, qui étudie actuellement l'ingénierie aérospatiale et la gestion des affaires à Melbourne, que ses yeux étaient fermés, bien qu'ils soient manifestement ouverts.

Le promoteur du club a déclaré que la réponse qu'il avait reçue en ligne après la publication de l'image était "inattendue" mais bienvenue. Photo / Richard LeeFacebook

"La photo que vous souhaitez télécharger ne répond pas à nos critères car les yeux des sujets sont fermés", indique le message.

Publicité

M. Lee, qui est né à Taïwan mais a grandi en Nouvelle-Zélande, a contacté le ministère des Affaires intérieures peu de temps après pour demander pourquoi sa photo n'avait pas été acceptée.

Un porte-parole lui a dit qu'un "éclairage irrégulier sur le visage" avait provoqué son rejet.

"J'en ai essayé différents et pas de chance, alors j'ai appelé le bureau, ils ont dit que c'était à cause de l'ombre dans mes yeux et d'un éclairage inégal sur le visage", a déclaré M. Lee au Daily Mail Australia.

"Alors j'en ai fait prendre quelques nouveaux à l'Australian Post et l'un d'eux est finalement passé."

Mais ses amis avaient déjà publié une image du gâchis sur Facebook et les utilisateurs des médias sociaux ont commencé à suggérer que la machine était "raciste".

"La technologie devient raciste", a écrit un utilisateur.

« Mec, il a les yeux clairement ouverts : a posté un autre.

Plusieurs autres ont affirmé avoir rencontré les mêmes problèmes lors de l'utilisation de la technologie de reconnaissance faciale.

M. Lee a déclaré qu'il n'était pas dérangé par l'incident et ne pensait pas qu'il s'agissait d'un problème de race.

"Le message d'erreur ne m'a pas trop dérangé, j'y ai vu de l'humour et il s'agit évidemment d'une erreur de programmation dans le logiciel de reconnaissance", a déclaré M. Lee.

"Juste un peu ennuyeux avec le retard et je m'attends à recevoir une réponse du personnel après 3 soumissions infructueuses", a-t-il ajouté.

Le DJ, connu sous le nom de Richy Fancy, a téléchargé une image humoristique sur Facebook peu de temps après la publication du message d'erreur à l'aide d'un filtre Snapchat qui élargit les yeux du sujet avec la légende : "J'espère qu'ils acceptent celui-ci".

Le DJ a téléchargé une image humoristique sur Facebook peu de temps après la publication du message d'erreur à l'aide d'un filtre Snapchat qui élargit les yeux du sujet. Photo / Richard LeeFacebook

Un porte-parole du ministère de l'Immigration a déclaré que le logiciel est "l'un des plus avancés technologiquement au monde", mais que les rejets étaient fréquents.

"Jusqu'à 20% des photos soumises en ligne sont rejetées pour une grande variété de raisons", ont-ils déclaré au Daily Mail Australia.

"Nous fournissons aux clients des ressources en ligne utiles pour leur faciliter la prise de photos de passeport appropriées et notons que dans ce cas, une deuxième photo a été soumise le même jour et la personne a reçu un passeport néo-zélandais."

Les suggestions pour les utilisateurs qui reçoivent un message indiquant que leurs yeux sont fermés sont : "Reprenez la photo et assurez-vous que les yeux sont ouverts".

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd