Incidents associés
En 2015, Google a suscité des critiques lorsque son système de reconnaissance d'images Photos a qualifié à tort une femme noire de gorille, mais deux ans plus tard, le problème n'est toujours pas correctement résolu. Au lieu de cela, Google a censuré les balises d'image relatives à de nombreux primates.
Quoi de neuf : Wired a de nouveau testé Google Photos avec un tas de photos d'animaux. Le logiciel pourrait facilement identifier des créatures allant des pandas aux caniches. Mais des images de gorilles, de chimpanzés et de chimpanzés ? Ils n'ont jamais été étiquetés. Wired a confirmé à Google que ces balises sont censurées.
Mais : Certains des autres systèmes de vision par ordinateur de Google, tels que Cloud Vision, ont pu marquer correctement les photos de gorilles et fournir des réponses aux utilisateurs. Cela suggère que la suppression des balises est un mouvement de relations publiques honteux spécifique à la plate-forme.
Plus grand que la censure : les préjugés humains existent partout dans les ensembles de données, reflétant les facettes de l'humanité que nous préférerions ne pas laisser apprendre aux machines. Mais réduire et supprimer ce biais demandera beaucoup plus de travail que de simplement mettre des étiquettes sur liste noire.