Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 849

Incidents associés

Incident 4820 Rapports
Passport checker Detects Asian man's Eyes as Closed

Loading...
Un robot "raciste" rejette une photo de passeport asiatique
rappler.com · 2016

Une réponse générée par ordinateur a déclaré que la photo d'un Néo-Zélandais d'origine asiatique ne répondait pas aux critères néo-zélandais car les "yeux sont fermés"

Publié le 08 décembre 2016 à 09h24

WELLINGTON, Nouvelle-Zélande – Un Néo-Zélandais d'origine asiatique s'est vu refuser sa photo de passeport parce qu'on croyait à tort qu'il avait les yeux fermés, mais des responsables gouvernementaux ont déclaré jeudi 8 décembre qu'il s'agissait d'une erreur informatique et non d'une discrimination.

Richard Lee, basé à Melbourne, tentait de renouveler son passeport avant de retourner en Nouvelle-Zélande pour Noël, mais le logiciel de reconnaissance faciale du département néo-zélandais des affaires intérieures a refusé la demande.

Une réponse générée par ordinateur a déclaré que la photo ne répondait pas aux critères de la Nouvelle-Zélande car les "yeux sont fermés".

Né à Taïwan, Lee, 22 ans, qui a grandi en Nouvelle-Zélande avant de déménager en Australie pour étudier, n'a pas été dérangé par le rejet, mais certains de ses amis ont plaisanté dans des publications sur Facebook en disant que le gouvernement néo-zélandais avait peut-être un robot "raciste".

Cependant, le porte-parole des affaires internes, Steve Corbett, a déclaré à l'Agence France-Presse que leurs systèmes ne faisaient pas de discrimination "contre un groupe spécifique d'individus" et que dans le cas de Lee, le problème était lié à l'éclairage.

"L'erreur la plus courante est un problème d'éclairage projetant des ombres sur le visage, que la technologie de reconnaissance faciale interprète comme des yeux fermés et c'était le message d'erreur générique envoyé dans ce cas", a déclaré Corbett.

Jusqu'à 20% des photos soumises en ligne sont rejetées pour une grande variété de raisons, a-t-il ajouté.

Lee, qui étudie l'ingénierie aérospatiale au Royal Melbourne Institute of Technology, a déclaré qu'il n'était pas dérangé par le rejet.

"J'y ai vu de l'humour et c'est évidemment une erreur de programmation dans le logiciel de reconnaissance", a-t-il déclaré aux journalistes.

Il a posté une copie de la lettre de refus sur sa page Facebook et a décrit la publicité qui l'entourait comme "une auto-promotion éhontée" pour son alter ego en tant que DJ Richy Fancy. – Rappler.com

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd