Problème 611

SAN FRANCISCO (Reuters) - Les spécialistes de l'apprentissage automatique d'Amazon.com Inc (AMZN.O) ont découvert un gros problème : leur nouveau moteur de recrutement n'aimait pas les femmes.

L'équipe avait construit des programmes informatiques depuis 2014 pour examiner les CV des candidats dans le but de mécaniser la recherche des meilleurs talents, ont déclaré à Reuters cinq personnes familières avec l'effort.

L'automatisation a été la clé de la domination d'Amazon sur le commerce électronique, que ce soit dans les entrepôts ou dans les décisions de tarification. L'outil d'embauche expérimental de l'entreprise a utilisé l'intelligence artificielle pour donner aux candidats des notes allant d'une à cinq étoiles - un peu comme les acheteurs évaluent les produits sur Amazon, ont déclaré certaines personnes.

"Tout le monde voulait ce Saint Graal", a déclaré l'une des personnes. "Ils voulaient littéralement que ce soit un moteur où je vais vous donner 100 CV, il crachera les cinq premiers, et nous les embaucherons."

Mais en 2015, l'entreprise s'est rendu compte que son nouveau système n'évaluait pas les candidats aux postes de développeur de logiciels et à d'autres postes techniques de manière non sexiste.

En effet, les modèles informatiques d'Amazon ont été formés pour examiner les candidats en observant les tendances dans les CV soumis à l'entreprise sur une période de 10 ans. La plupart provenaient d'hommes, reflet de la domination masculine dans l'industrie technologique.

En effet, le système d'Amazon a appris de lui-même que les candidats masculins étaient préférables. Il pénalisait les CV qui incluaient le mot "femmes", comme dans "capitaine de club d'échecs féminin". Et il a déclassé les diplômés de deux collèges réservés aux femmes, selon des personnes proches du dossier. Ils n'ont pas précisé les noms des écoles.

Amazon a édité les programmes pour les rendre neutres vis-à-vis de ces termes particuliers. Mais cela ne garantissait pas que les machines ne concevraient pas d'autres moyens de trier les candidats qui pourraient s'avérer discriminatoires, ont déclaré les gens.

La société de Seattle a finalement dissous l'équipe au début de l'année dernière parce que les dirigeants ont perdu espoir pour le projet, selon les personnes, qui ont parlé sous couvert d'anonymat. Les recruteurs d'Amazon ont examiné les recommandations générées par l'outil lors de la recherche de nouvelles recrues, mais ne se sont jamais appuyés uniquement sur ces classements, ont-ils déclaré.

Amazon a refusé de commenter les défis de la technologie, mais a déclaré que l'outil "n'a jamais été utilisé par les recruteurs d'Amazon pour évaluer les candidats". L'entreprise n'a pas donné plus de détails. Il n'a pas contesté que les recruteurs regardaient les recommandations générées par le moteur de recrutement.

L'expérience de l'entreprise, que Reuters est la première à rapporter, propose une étude de cas sur les limites de l'apprentissage automatique. Cela sert également de leçon à la liste croissante de grandes entreprises, dont Hilton Worldwide Holdings Inc (HLT.N) et Goldman Sachs Group Inc (GS.N), qui cherchent à automatiser certaines parties du processus d'embauche.

Quelque 55% des responsables des ressources humaines aux États-Unis ont déclaré que l'intelligence artificielle, ou IA, ferait partie intégrante de leur travail au cours des cinq prochaines années, selon une enquête réalisée en 2017 par la société de logiciels de talents CareerBuilder.

Les employeurs rêvent depuis longtemps d'exploiter la technologie pour élargir le réseau de recrutement et réduire la dépendance aux opinions subjectives des recruteurs humains. Mais des informaticiens tels que Nihar Shah, qui enseigne l'apprentissage automatique à l'Université Carnegie Mellon, disent qu'il reste encore beaucoup de travail à faire.

"Comment s'assurer que l'algorithme est juste, comment s'assurer que l'algorithme est vraiment interprétable et explicable - c'est encore assez loin", a-t-il déclaré.

FILE PHOTO: Des brochures sont disponibles pour les candidats potentiels à "Amazon Jobs Day", un salon de l'emploi au Amazon.com Fulfillment Center à Fall River, Massachusetts, États-Unis, le 2 août 2017. REUTERS / Brian Snyder / File Photo

LANGAGE MASCULIN

L'expérience d'Amazon a commencé à un moment charnière pour le plus grand détaillant en ligne au monde. L'apprentissage automatique gagnait du terrain dans le monde de la technologie, grâce à une augmentation de la puissance de calcul à faible coût. Et le département des ressources humaines d'Amazon était sur le point de se lancer dans une frénésie d'embauche : depuis juin 2015, l'effectif mondial de l'entreprise a plus que triplé pour atteindre 575 700 travailleurs, selon les documents réglementaires.

Il a donc mis en place une équipe dans le centre d'ingénierie d'Amazon à Édimbourg, qui est passée à une douzaine de personnes. Leur objectif était de développer une IA capable d'explorer rapidement le Web et de repérer des candidats dignes d'être recrutés, ont déclaré des personnes proches du dossier.

Le groupe a créé 500 modèles informatiques axés sur des fonctions et des lieux de travail spécifiques. Ils ont appris à chacun à reconnaître quelque 50 000 termes qui figuraient sur les CV des anciens candidats. Les algorithmes ont appris à accorder peu d'importance aux compétences communes aux candidats en informatique, telles que la capacité d'écrire divers codes informatiques, ont déclaré les gens.

Au lieu de cela, la technologie a favorisé les candidats qui se sont décrits en utilisant des verbes plus couramment trouvés sur les CV des ingénieurs masculins, tels que "exécuté" et "capturé", a déclaré une personne.

Les préjugés sexistes n'étaient pas le seul problème. Les problèmes avec les données qui sous-tendaient les jugements des modèles signifiaient que des candidats non qualifiés étaient souvent recommandés pour toutes sortes d'emplois, ont déclaré les gens. Avec le retour de la technologie