Incidents associés
Google a continué de s'excuser mercredi pour une faille dans Google Photos, qui a été publiée en grande pompe en mai, qui a conduit la nouvelle application à étiqueter par erreur des photos de personnes noires comme "gorilles".
La société a déclaré avoir résolu le problème et s'efforçait de comprendre exactement comment cela s'était passé.
"Nous sommes consternés et sincèrement désolés que cela se soit produit", a déclaré un représentant de Google dans un communiqué envoyé par e-mail. "Nous prenons des mesures immédiates pour empêcher ce type de résultat d'apparaître."
Des voitures autonomes aux photos, Google, comme toutes les entreprises technologiques, publie constamment des technologies de pointe en sachant que des problèmes surgiront et qu'il devra les résoudre au fur et à mesure. L'idée est que vous ne savez jamais quels problèmes pourraient survenir tant que vous n'aurez pas mis les technologies entre les mains d'utilisateurs du monde réel.
Dans le cas de l'application Google Photos, qui utilise une combinaison de techniques avancées de vision par ordinateur et d'apprentissage automatique pour aider les utilisateurs à collecter, rechercher et catégoriser des photos, les erreurs sont faciles à repérer. Lorsque l'application a été dévoilée lors du salon annuel des développeurs de l'entreprise, les dirigeants ont participé à des démonstrations soigneusement organisées pour montrer comment elle peut reconnaître des points de repère comme la tour Eiffel et donner aux utilisateurs la possibilité de rechercher dans leurs photos des personnes, des lieux ou des choses - même des choses aussi spécifiques que une race de chien en particulier.
Bien sûr, dans la pratique, c'est beaucoup plus compliqué. Google Photos confond les chiens avec des chevaux et les horloges avec des enjoliveurs. Dans mes photos Google, une photo du coude ensanglanté d'un ami, blessé en faisant du skateboard, était étiquetée "nourriture".
Mais certaines erreurs sont plus graves que d'autres et dimanche, un développeur de logiciels de Brooklyn nommé Jacky Alciné, qui est noir, a utilisé Twitter pour publier une image montrant que son application Google Photos avait qualifié une photo de M. Alciné et d'un ami de "gorilles". ” Dans une interview, il a déclaré qu'il pensait que publier sur Twitter conduirait à une solution beaucoup plus rapide.
"Utiliser un flux en direct (comme Twitter) plutôt que d'attendre une réponse est beaucoup plus efficace", a-t-il déclaré.
Cela s'est avéré correct. En moins d'une heure et demie, un ingénieur de Google nommé Yonatan Zunger, dont le titre est l'architecte en chef du réseau social Google Plus, a répondu à son message et a promis une action rapide.
Cette action inclut la suppression temporaire de presque tout ce qui concerne les gorilles, y compris la possibilité de rechercher des gorilles et l'intégralité de l'étiquette des gorilles.
"Il y a clairement encore beaucoup de travail à faire avec l'étiquetage automatique des images, et nous examinons comment nous pouvons empêcher que ce type d'erreurs ne se reproduise à l'avenir", a ajouté le représentant de Google.