Incidents associés
Amazon a abandonné un outil "sexiste" qui utilisait l'intelligence artificielle pour décider des meilleurs candidats à embaucher.
Les membres de l'équipe travaillant sur le système ont déclaré qu'il s'était effectivement appris que les candidats masculins étaient préférables.
Le logiciel d'intelligence artificielle a été créé par une équipe du bureau d'Amazon à Édimbourg en 2014 afin de trier automatiquement les CV et de sélectionner les candidats les plus talentueux.
Mais l'algorithme s'est rapidement appris à favoriser les candidats masculins par rapport aux candidats féminins, selon les membres de l'équipe qui se sont entretenus avec Reuters.
Ils ont réalisé que c'était pénalisant les CV qui incluaient le mot "femmes", comme "capitaine d'un club d'échecs féminin". Il aurait également déclassé les diplômés de deux collèges réservés aux femmes.
Le problème est né du fait que le système a été formé sur les données soumises par les candidats sur une période de 10 ans - dont une grande partie provenait d'hommes.
Cinq membres de l'équipe qui ont développé l'outil d'apprentissage automatique - dont aucun ne voulait être nommé publiquement - ont déclaré que le système était destiné à examiner les candidatures et à attribuer aux candidats une note allant de une à cinq étoiles.
Certains membres de l'équipe ont souligné le fait que cela reflétait la façon dont les acheteurs évaluent les produits sur Amazon.