Incidents associés
Cela fait plus de deux ans que l'ingénieur Jacky Alciné a appelé Google Photos pour marquer automatiquement les Noirs sur ses photos en tant que "gorilles". Après avoir été appelé, Google s'est rapidement et abondamment excusé, promettant de résoudre les problèmes de l'algorithme. "Beaucoup de travail est en cours et il reste encore beaucoup à faire", a tweeté Yonatan Zunger, architecte en chef des réseaux sociaux chez Google, selon CNET. "Nous y sommes très attachés." Nous sommes en 2018, et il semble que « dessus » signifiait simplement une solution de rechange de mauvaise qualité qui impliquait d'empêcher tout ce que l'algorithme identifié comme « gorille » d'être marqué, juste au cas où l'algorithme choisirait de marquer à nouveau une personne noire.
Google Photos, vous êtes tous foutus. Mon ami n'est pas un gorille. pic.twitter.com/SMkMCsNVX4 — jackyalciné est à environ 40 % sur IndieWeb. (@jackyalcine) 29 juin 2015
Wired a découvert le "correctif" dans une série de tests utilisant 40 000 images contenant des animaux et les exécutant via Google Photos. "Il [Google Photos] a réussi à trouver de nombreuses créatures, y compris des pandas et des caniches", rapporte le magazine. "Mais le service n'a signalé" aucun résultat "pour les termes de recherche" gorille ", " chimpanzé ", " chimpanzé " et " singe ". " Le programme a pu trouver des primates, notamment des babouins, des gibbons et des ouistitis. Les singes capucins et colobes ont également été identifiés correctement, tant que le mot singe n'a pas été inclus dans la recherche. Les recherches sur « homme noir » et « femme noire » ont produit des photos de personnes du sexe choisi en noir et blanc, plutôt que d'une race donnée.
Un porte-parole de Google a confirmé à Wired que plusieurs termes de primates, dont "gorille", sont toujours bloqués après l'incident de 2015. "La technologie d'étiquetage d'image est encore précoce et malheureusement, elle est loin d'être parfaite", a déclaré le porte-parole. On ne sait pas si la technologie d'étiquetage d'images est juste «encore tôt» – cela fait plusieurs années, on pourrait penser que Google aurait pu comprendre certaines choses à ce moment-là – ou si Google fait simplement attention à éviter d'être qualifié de raciste, encore une fois. Alternativement, réparer correctement Google Photos ne vaut tout simplement pas l'argent et le temps de Google. Il est plus facile de coller un pansement dessus et de prétendre que les gorilles – et bien pire, les Noirs – n'existent pas sur ses photos.