Incidents associés
Google a lancé son application Photos lors de Google I/O en mai. Ici, les membres du personnel attendent pour enregistrer les participants à la conférence au Moscone Center de San Francisco. (Photo : Jeff Chiu, Associated Press)
SAN FRANCISCO - Google a présenté ses excuses après que sa nouvelle application Photos ait identifié les Noirs comme des "gorilles".
Dimanche, le programmeur de Brooklyn Jacky Alciné a tweeté une capture d'écran de photos qu'il avait téléchargées dans lesquelles l'application avait étiqueté Alcine et un ami, tous deux afro-américains, "gorilles".
Les logiciels de reconnaissance d'images sont encore une technologie naissante mais leur utilisation se répand rapidement. Google a lancé son application Photos à Google I/O en mai, vantant ses capacités d'apprentissage automatique pour reconnaître par lui-même les personnes, les lieux et les événements.
Yontan Zunger, ingénieur et architecte en chef de Google+, a répondu rapidement à Alciné sur Twitter : "Ce n'est pas OK à 100 %. Et il a promis que l'équipe Photos de Google travaillait sur un correctif.
Et ce ne sont que des photos que j'ai avec elle avec lesquelles je fais ça (résultats tronqués b / c personnels): pic.twitter.com/h7MTXd3wgo - Jacky vit sur @jalcine@playvicious.social maintenant. (@jackyalcine) 29 juin 2015
Le premier correctif n'a pas été efficace, donc Google a finalement décidé de ne donner à aucune photo une balise "gorille". Et Zunger a déclaré que Google travaillait sur des "solutions à plus long terme", y compris "une meilleure reconnaissance des visages à la peau foncée".
@jackyalcine Merci de nous l'avoir dit si vite !
Chut. En haut de ma liste de bugs que vous ne voulez jamais voir se produire. :: frisson :: - Yonatan Zunger 🔥 (@yonatanzunger) 29 juin 2015
Dans un communiqué, la porte-parole de Google, Katie Watson, a déclaré : "Nous sommes consternés et sincèrement désolés que cela se soit produit. Nous prenons des mesures immédiates pour empêcher ce type de résultat d'apparaître. Il y a clairement encore beaucoup de travail à faire avec l'étiquetage automatique des images. , et nous examinons comment nous pouvons empêcher que ce type d'erreurs ne se reproduise à l'avenir."
Alciné a répondu sur Twitter: "Je comprends COMMENT cela se produit; le problème est plus sur le POURQUOI."
Les gaffes soulignent le manque chronique de diversité dans les entreprises technologiques de la Silicon Valley, écrit Charles Pulliam-Moore, journaliste pour le média Fusion.
"Ce n'est pas la première fois que nous voyons des logiciels montrer un parti pris implicite contre les personnes de couleur", a-t-il écrit.
Le mois dernier, Flickr a également déployé une nouvelle technologie pour aider à marquer les photos. Il a identifié un homme noir et une femme blanche comme des singes à deux reprises.
"Les erreurs sont commises parce que les algorithmes, aussi intelligents soient-ils, sont terribles pour donner un sens réel aux images qu'ils analysent. Au lieu de "voir" un visage, les algorithmes identifient des formes, des couleurs et des motifs pour faire des suppositions éclairées sur ce que l'image pourrait être. Cela fonctionne à merveille pour les objets inanimés ou les choses emblématiques comme les points de repère, mais il s'est avéré être un point de friction pour les personnes de couleur à maintes reprises.
Chez Google, sept employés sur 10 sont des hommes. La plupart des employés sont blancs (60 %) et asiatiques (31 %). Les Latinos ne représentaient que 3% de la main-d'œuvre et les Afro-Américains seulement 2% – loin de remplir la mission des fondateurs de Google Larry Page et Sergey Brin de faire en sorte que leur entreprise reflète la diversité raciale et ethnique de ses utilisateurs aux États-Unis et autour. le monde.
"Peut-être que si les titans de la Silicon Valley embauchaient plus d'ingénieurs de couleur, des choses comme ça n'arriveraient pas si souvent", a écrit Pulliam-Moore "Ou, vous savez, jamais."
Joelle Emerson, fondatrice et PDG de Paradigm, une société de stratégie qui consulte les entreprises technologiques sur la diversité et l'inclusion, a déclaré que l'incident devrait être un signal d'alarme pour la Silicon Valley.
"De combien de preuves supplémentaires avons-nous besoin que le manque de diversité dans les entreprises technologiques a un impact réel, et parfois très grave, sur la façon dont les produits sont conçus et développés ?" dit Emerson. "Chaque responsable technologique devrait lire ceci et s'inquiéter. Et après cela, ils devraient aller à une réunion pour déterminer ce qu'ils vont faire pour s'assurer que rien de tel ne se reproduise."
Lisez ou partagez cette histoire : http://usat.ly/1LV9m6x