Incidents associés
Google a été contraint de s'excuser après que son logiciel de reconnaissance d'images ait mal étiqueté des photographies de personnes noires comme des gorilles.
La nouvelle application Google Photos du géant de l'Internet utilise une fonction de marquage automatique pour aider à organiser les images téléchargées sur le service et faciliter la recherche.
Cependant, le logiciel a indigné les utilisateurs après avoir mal étiqueté les images d'un programmeur informatique et de son ami comme les grands singes.
Faites défiler vers le bas pour la vidéo
Google a présenté des excuses après que le programmeur informatique Jacky Alcine, de New York, ait repéré des photographies de lui et d'une amie qui avaient été étiquetées comme des gorilles par le logiciel de reconnaissance d'images Google Photos. Il a envoyé une série de Tweets à Google soulignant le problème (comme ci-dessus) conduisant Google à publier un correctif pour le problème
Google s'est dit "consterné" et "vraiment désolé" pour cette erreur.
La faute survient un peu plus d'un mois après que le système de marquage automatique de Flickr a placé des balises potentiellement offensantes sur des images, notamment en qualifiant à tort les camps de concentration de "salles de sport de la jungle" et les gens de singes.
Google a lancé son application autonome Photos en mai, annonçant un certain nombre de fonctionnalités telles que la création automatique de collections de personnes et d'objets comme la nourriture ou les paysages.
GOOGLE FIGHTS REVENGE PORN Google va censurer les photos nues non autorisées de son moteur de recherche dans le cadre d'un changement de politique visant à réprimer une pratique malveillante connue sous le nom de "revenge porn". Les nouvelles règles permettront aux personnes dont les photos nues ont été publiées sur un site Web sans leur permission de demander à Google d'empêcher les liens vers l'image d'apparaître dans ses résultats de recherche. Un formulaire pour soumettre les demandes de censure à Google devrait être disponible dans les prochaines semaines, selon la société de Mountain View, en Californie. Google a traditionnellement résisté aux efforts visant à effacer le contenu en ligne de son moteur de recherche Internet, affirmant que ses jugements sur les informations et les images devraient être limités à la pertinence du contenu par rapport à la requête de chaque personne. La société a décidé de faire une exception avec le partage non autorisé de photos nues, car ces images sont souvent publiées par des ex-conjoints et des partenaires romantiques abandonnés ou des extorqueurs exigeant des rançons pour retirer les photos.
Taper sur le visage d'une personne visait également à rechercher d'autres photos de cette personne dans votre collection.
Cependant, lundi, Jacky Alcine, de Brooklyn, New York, a repéré des photos de lui et d'une amie posant pour l'appareil photo qui avaient été regroupées dans une collection étiquetée "gorille".
Dans une série de Tweets adressés à Google, il a déclaré : "Google Photos, vous êtes foutus". Mon ami n'est pas un gorille.
"La seule chose sous cette étiquette, c'est que mon ami et moi sommes étiquetés comme gorille.
'Quel type de données d'image d'échantillon que vous avez collectées qui aboutirait à ce fils?
«Et ce ne sont que des photos que j'ai avec elle avec lesquelles ça fait ça.
'Je comprends comment cela se produit, le problème est plus sur le pourquoi. C'est ainsi que vous déterminez le marché cible de quelqu'un.
Ses tweets ont déclenché une réponse de Yonatan Zunger, architecte en chef des réseaux sociaux chez Google, qui a déclaré que les programmeurs travaillaient sur une solution au problème.
Il a dit: «Merci de nous l'avoir dit si rapidement. Chut. En haut de ma liste de bugs que vous ne voulez jamais voir se produire. Frémir.'
Cependant, même après la publication d'un correctif, M. Alcine a signalé que deux photos apparaissaient toujours sous les termes gorille et gorilles.
M. Zunger a déclaré plus tard que Google avait désactivé la possibilité de regrouper les photographies sous cette étiquette pour résoudre le problème.
Et ce ne sont que des photos que j'ai avec elle avec lesquelles je fais ça (résultats tronqués b/c personnels) : pic.twitter.com/h7MTXd3wgo — jackyalciné (@jackyalcine) 29 juin 2015
@jackyalcine Merci de nous l'avoir dit si vite !
Chut. En haut de ma liste de bugs que vous ne voulez jamais voir se produire. :: frisson :: - Yonatan Zunger 🔥 (@yonatanzunger) 29 juin 2015
Il a dit cependant que l'erreur peut se produire sur des photographies où leur logiciel de reconnaissance d'image n'a pas du tout détecté de visage.
Il a dit qu'un correctif était en cours d'élaboration.
Il a ajouté: «Nous travaillons également sur des solutions à plus long terme concernant à la fois la linguistique – les mots auxquels il faut faire attention dans les photos de personnes – et la reconnaissance d'image elle-même, par exemple une meilleure reconnaissance des visages à la peau foncée.
Le tweet de Jacky Alcine sur le problème a déclenché une réponse horrifiée de l'architecte en chef des réseaux sociaux de Google, Yonatan Zunger, qui a déclaré que les ingénieurs travaillaient sur une variété de correctifs pour éviter des problèmes similaires à l'avenir.
« Beaucoup de travail est en cours et il reste encore beaucoup à faire. Mais nous y sommes très attachés.
Google a lancé son application photo en mai de cette année
"Nous devrions avoir un correctif autour des recherches qui révéleront très bientôt des photos de visages partiellement masqués."
Google a maintenant présenté des excuses officielles pour l'erreur et a déclaré que sa technologie d'étiquetage d'image n'en était qu'à ses débuts et n'était donc pas encore parfaite.
Auparavant, certains utilisateurs avaient remarqué des photos de chevaux étiquetés comme des chiens par exemple.
La société a déclaré que Google Photos inclut également une fonctionnalité qui permet aux utilisateurs de supprimer les résultats sur des images mal étiquetées, ce qui peut aider à former son logiciel de reconnaissance d'images pour être