Incidents associés
Google a supprimé la balise "gorille" de sa nouvelle application Photos, après qu'un utilisateur a remarqué qu'elle avait déposé un certain nombre de photos de lui et de son ami noir dans un album généré automatiquement nommé "gorilles".
L'utilisateur concerné, le programmeur informatique Jacky Alciné, s'est rendu sur Twitter pour publier la preuve de l'erreur de Google Photos, ainsi que la question : "Quel type d'échantillons de données d'image avez-vous collecté qui donnerait ce fils ?"
Et ce ne sont que des photos que j'ai avec elle avec lesquelles je fais ça (résultats tronqués b/c personnels) : pic.twitter.com/h7MTXd3wgo
Alciné a rapidement reçu une réponse de l'architecte social en chef de Google, Yonatan Zunger, qui s'est abondamment excusé et a admis : « Ce n'est pas OK à 100 % ».
Il a demandé l'autorisation d'examiner les données du compte d'Alciné, puis a promis de déployer un correctif. Après quelques tentatives infructueuses pour modifier l'algorithme, Google a complètement supprimé la balise de la base de données de l'application.
@jackyalcine ..photos où nous n'avons pas du tout reconnu qu'il y avait un visage là-bas. Nous travaillons actuellement sur ce problème. — Yonatan Zunger (@yonatanzunger) 29 juin 2015
Un porte-parole de Google a fait écho aux excuses de Zunger : "Nous sommes consternés et sincèrement désolés que cela se soit produit. Nous prenons des mesures immédiates pour empêcher ce type de résultat d'apparaître », ont-ils déclaré.
"Il y a clairement encore beaucoup de travail à faire avec l'étiquetage automatique des images, et nous examinons comment nous pouvons empêcher que ce type d'erreurs ne se reproduise à l'avenir."
Google a lancé sa nouvelle application Photos lors de sa conférence des développeurs I/O en mai. L'application utilise la technologie d'étiquetage d'image pour attribuer des balises aux objets dans les photos et les organiser dans des albums.
Le système est basé sur l'apprentissage automatique. Ainsi, à mesure que davantage de données d'image sont introduites dans le système, la technologie s'améliore et améliore la reconnaissance des objets dans les images. Cependant, la technologie est encore naissante et Google admet qu'elle est loin d'être parfaite.
Par exemple, April Taylor d'iTech Post a noté en mai que des photos de ses chiens avaient été mal étiquetées comme des chevaux par Google Photos.
Les ingénieurs des laboratoires de recherche de Google ont également récemment exécuté diverses images via son "réseau de neurones", demandant au logiciel d'identifier des motifs dans les images, puis de modifier cette image pour exagérer les motifs.
L'expérience a donné des résultats bizarres. Dans ce cas, le réseau de neurones avait été en grande partie entraîné par des images d'animaux, de sorte que toute image envoyée via la boucle de rétroaction était renvoyée sous la forme d'un collage de visages d'animaux.
Jeudi, Google a rendu public le logiciel, conduisant les images cauchemardesques à inonder Internet.
Google permet aux utilisateurs de son application Photos de supprimer les résultats lorsque les images sont mal étiquetées. Cela permet de former les systèmes de Google afin qu'ils puissent s'améliorer au fil du temps.
Pour supprimer une étiquette, cliquez simplement sur la photo et supprimez l'étiquette, le système sera formé pour ne pas l'inclure dans une recherche au fil du temps.