Incidents associés
Des spécialistes construisaient des programmes informatiques depuis 2014 pour examiner les CV dans le but d'automatiser le processus de recherche
Cet article date de plus de 5 mois
Cet article date de plus de 5 mois
Les spécialistes du machine learning d'Amazon ont découvert un gros problème : leur nouveau moteur de recrutement n'aimait pas les femmes.
L'équipe avait construit des programmes informatiques depuis 2014 pour examiner les CV des candidats, dans le but de mécaniser la recherche des meilleurs talents, ont déclaré à Reuters cinq personnes familières avec l'effort.
L'automatisation a été la clé de la domination d'Amazon sur le commerce électronique, que ce soit dans les entrepôts ou dans les décisions de tarification. L’outil d’embauche expérimental de l’entreprise a utilisé l’intelligence artificielle pour donner aux candidats des notes allant d’une à cinq étoiles – tout comme les acheteurs évaluent les produits sur Amazon, ont déclaré certaines personnes.
"Tout le monde voulait ce Saint Graal", a déclaré l'une des personnes. "Ils voulaient littéralement que ce soit un moteur où je vais vous donner 100 CV, il crachera les cinq premiers, et nous les embaucherons."
Mais en 2015, l'entreprise s'est rendu compte que son nouveau système n'évaluait pas les candidats aux postes de développeur de logiciels et à d'autres postes techniques de manière non sexiste.
L'automatisation pourrait détruire des millions d'emplois. Nous devons nous en occuper maintenant | Yvette Cooper En savoir plus
En effet, les modèles informatiques d'Amazon ont été formés pour évaluer les candidats en observant les tendances dans les CV soumis à l'entreprise sur une période de 10 ans. La plupart provenaient d'hommes, reflet de la domination masculine dans l'industrie technologique.
En effet, le système d'Amazon a appris de lui-même que les candidats masculins étaient préférables. Il pénalisait les CV qui incluaient le mot "femmes", comme dans "capitaine de club d'échecs féminin". Et il a déclassé les diplômés de deux collèges réservés aux femmes, selon des personnes proches du dossier.
Amazon a édité les programmes pour les rendre neutres vis-à-vis de ces termes particuliers. Mais cela ne garantissait pas que les machines ne concevraient pas d'autres moyens de trier les candidats qui pourraient s'avérer discriminatoires, ont déclaré les gens.
La société de Seattle a finalement dissous l'équipe au début de l'année dernière parce que les dirigeants ont perdu espoir pour le projet, selon les personnes, qui ont parlé sous couvert d'anonymat. Les recruteurs d'Amazon ont examiné les recommandations générées par l'outil lors de la recherche de nouvelles recrues, mais ne se sont jamais appuyés uniquement sur ces classements, ont-ils déclaré.
Amazon a refusé de commenter le moteur de recrutement ou ses défis, mais l'entreprise affirme qu'elle est attachée à la diversité et à l'égalité sur le lieu de travail.
L'expérience de l'entreprise, que Reuters est la première à rapporter, propose une étude de cas sur les limites de l'apprentissage automatique. Cela sert également de leçon à la liste croissante de grandes entreprises, dont Hilton Worldwide Holdings et Goldman Sachs, qui cherchent à automatiser certaines parties du processus d'embauche.
Algorithmes de Franken : les conséquences mortelles d'un code imprévisible En savoir plus
Quelque 55 % des responsables des ressources humaines aux États-Unis ont déclaré que l'intelligence artificielle, ou IA, ferait partie intégrante de leur travail au cours des cinq prochaines années, selon une enquête réalisée en 2017 par la société de logiciels de talents CareerBuilder.
Langage masculin
L'expérience d'Amazon a commencé à un moment charnière pour le plus grand détaillant en ligne au monde. L'apprentissage automatique gagnait du terrain dans le monde de la technologie, grâce à une augmentation de la puissance de calcul à faible coût. Et le département des ressources humaines d'Amazon était sur le point de se lancer dans une frénésie d'embauche ; depuis juin 2015, l'effectif mondial de l'entreprise a plus que triplé pour atteindre 575 700 travailleurs, selon les documents réglementaires.
Il a donc mis en place une équipe dans le centre d'ingénierie d'Amazon à Édimbourg, qui est passée à une douzaine de personnes. Leur objectif était de développer une IA capable d'explorer rapidement le Web et de repérer des candidats dignes d'être recrutés, ont déclaré des personnes proches du dossier.
Le groupe a créé 500 modèles informatiques axés sur des fonctions et des lieux de travail spécifiques. Ils ont appris à chacun à reconnaître quelque 50 000 termes trouvés sur les CV des anciens candidats. Les algorithmes ont appris à accorder peu d'importance aux compétences communes aux candidats en informatique, telles que la capacité d'écrire divers codes informatiques, ont déclaré les gens.
Au lieu de cela, la technologie a favorisé les candidats qui se sont décrits en utilisant des verbes que l'on trouve plus couramment dans les CV des ingénieurs masculins, tels que "exécuté" et "capturé", a déclaré une personne.
Les préjugés sexistes n'étaient pas le seul problème. Les problèmes avec les données qui sous-tendaient les jugements des modèles signifiaient que des candidats non qualifiés étaient souvent recommandés pour toutes sortes d'emplois, ont déclaré les gens. La technologie renvoyant des résultats presque au hasard, Amazon a arrêté le projet, ont-ils déclaré.
Le problème ou le remède ?
D'autres entreprises vont de l'avant, soulignant l'empressement des employeurs à exploiter l'IA pour l'embauche.
Kevin Parker, directeur général de HireVue, une startup près de Salt Lake City, a déclaré que l'automatisation aide les entreprises à regarder au-delà des mêmes réseaux de recrutement sur lesquels elles comptent depuis longtemps. Son cabinet analyse le discours et les expressions faciales des candidats lors d'entretiens vidéo afin de réduire la dépendance aux CV.
« Vous ne retourniez pas aux mêmes vieux endroits ; toi