Incidents associés
tech2 Nouvelles Personnel
Vous souvenez-vous du moment où l'algorithme de reconnaissance d'images de Google a créé une controverse majeure après avoir classé un couple noir dans la catégorie "Gorilles" ?
Si vous ne le faites pas, nous ne vous en voulons pas car cela s'est produit en juillet 2015. Une fois découvert, la société a présenté des excuses après avoir reconnu la sensibilité et la gravité de l'erreur.
Il semble que la société ait fait le tour pour résoudre le problème, mais selon un rapport de Wired, le correctif n'est pas allé au-delà de la correction rapide du problème en cours. Au lieu de résoudre le problème en enseignant à son algorithme la différence entre les personnes de couleur et les gorilles, la société a résolu le problème en supprimant directement les gorilles de la technologie d'étiquetage d'image.
Il semble que l'entreprise ait simplement bloqué son algorithme d'identification des gorilles pour s'assurer que l'histoire ne se répète pas.
La chose à noter ici est que la société a utilisé cette solution de contournement même après avoir rendu évident que la reconnaissance d'image sera la colonne vertébrale de la plupart des opérations d'intelligence artificielle comme les voitures autonomes, les assistants personnels et d'autres produits.
Wired a essayé un certain nombre de tests pour vérifier l'algorithme de reconnaissance d'image, allant de l'utilisation de Google Lens et Google Photos pour essayer de reconnaître 40 000 images avec une variété de sujets et d'objets. Le système a refusé d'identifier les chimpanzés, les gorilles, les chimpanzés ou les singes. Ce qui est intéressant, c'est que Google Assistant a correctement identifié un gorille en tant que gorille. En fait, l'API Cloud Vision, un service que la division Cloud computing de Google propose aux entreprises, a également été en mesure d'identifier les chimpanzés et les gorilles.
Selon un autre test, l'algorithme n'a fourni aucun résultat au terme "Afro-américain" tout en ne donnant que des résultats d'images colorées en noir et blanc pour des termes tels que "homme noir", "femme noire" et "personne noire".
Google Photos, vous êtes tous foutus. Mon ami n'est pas un gorille. pic.twitter.com/SMkMCsNVX4 — Jacky Alciné (@jackyalcine) 29 juin 2015
Google a publié une déclaration à Wired confirmant que le terme "gorille" avait été censuré des balises de recherche et d'image après l'incident. Le représentant a ajouté : "La technologie d'étiquetage d'images est encore précoce et malheureusement, elle est loin d'être parfaite." Le rapport donne plus de détails sur les recherches menées lors de l'enquête sur la mesure dans laquelle Google est allé dans la résolution du problème. Ce problème met en évidence les complexités et les problèmes potentiels en matière d'algorithmes d'identification et de détection d'images. Cependant, quels que soient les problèmes, on ne sait pas pourquoi le géant de la recherche n'a pas été en mesure de proposer une solution plus complète à ce problème au lieu du correctif.
Tech2 est maintenant sur WhatsApp. Pour tout le buzz sur les dernières technologies et sciences, inscrivez-vous à nos services WhatsApp. Allez simplement sur Tech2.com/Whatsapp et appuyez sur le bouton S'abonner.