Incidents associés
Google a été critiqué après que la fonction de reconnaissance d'images de son application Photos ait identifié par erreur les personnes à la peau foncée comme des "gorilles".
Jacky Alciné de New York a tweeté dimanche une photo de lui et d'un ami que l'application a qualifiée de "gorilles", un mot qui a également des connotations racistes.
Google Photos, vous êtes tous foutus. Mon ami n'est pas un gorille. pic.twitter.com/SMkMCsNVX4 —@jackyalcine
Dans un tweet de suivi, Alciné, qui travaille en tant que développeur Web, a déclaré que même s'il pouvait comprendre comment l'erreur avait pu se produire, il ne pouvait pas comprendre pourquoi. Le tweet a rapidement incité Yonatan Zunger, l'architecte en chef des réseaux sociaux de Google, à présenter des excuses.
@jackyalcine Putain de merde. Google+ CA ici. Non, ce n'est pas ainsi que vous déterminez le marché cible de quelqu'un. C'est 100% Pas OK. —@yonatanzunger
La fonction de marquage responsable de l'erreur est relativement nouvelle et a été largement moquée en ligne pour d'autres erreurs.
L'application affine progressivement les catégorisations au fur et à mesure qu'elle reçoit plus de données, selon le Verge.
Les responsables de Google ont publié une déclaration disant que la société est "consternée et sincèrement désolée" à propos de l'étiquette. Après avoir tenté de corriger l'algorithme, Google a décidé de supprimer temporairement l'étiquette du gorille, y compris la capacité de l'application à rechercher des gorilles, selon le New York Times.