Incidents associés
David Ryder/Getty Images PDG d'Amazon, Jeff Bezos.
Amazon a essayé de créer un outil d'intelligence artificielle pour aider au recrutement, mais il a montré un parti pris contre les femmes, rapporte Reuters.
Les ingénieurs auraient trouvé que l'IA était défavorable aux candidates parce qu'elle avait passé au peigne fin les CV à prédominance masculine pour accumuler ses données.
Amazon aurait abandonné le projet début 2017.
Amazon a travaillé sur la construction d'un outil d'intelligence artificielle pour aider à l'embauche, mais les plans se sont retournés contre eux lorsque l'entreprise a découvert que le système était discriminatoire à l'égard des femmes, rapporte Reuters.
Citant cinq sources, Reuters a déclaré qu'Amazon avait mis en place une équipe d'ingénieurs à Édimbourg, en Écosse, en 2014 pour trouver un moyen d'automatiser son recrutement.
L'entreprise a créé 500 modèles informatiques pour parcourir les CV des anciens candidats et relever environ 50 000 termes clés. Le système explorerait le Web pour recommander des candidats.
"Ils voulaient littéralement que ce soit un moteur où je vais vous donner 100 CV, il crachera les cinq premiers, et nous les embaucherons", a déclaré une source à Reuters.
Un an plus tard, cependant, les ingénieurs auraient remarqué quelque chose de troublant à propos de leur moteur - il n'aimait pas les femmes. C'était apparemment parce que l'IA a passé au peigne fin les CV à prédominance masculine soumis à Amazon sur une période de 10 ans pour accumuler des données sur qui embaucher.
Par conséquent, l'IA a conclu que les hommes étaient préférables. Il aurait déclassé les CV contenant les mots "femmes" et filtré les candidats qui avaient fréquenté deux collèges réservés aux femmes.
Les ingénieurs d'Amazon ont apparemment modifié le système pour remédier à ces formes particulières de préjugés, mais ne pouvaient pas être sûrs que l'IA ne trouverait pas de nouvelles façons de discriminer injustement les candidats.
Les préjugés sexistes n'étaient pas le seul problème, ont déclaré des sources de Reuters. Les programmes informatiques ont également recraché des candidats qui n'étaient pas qualifiés pour le poste.
Remédier aux biais algorithmiques est une question épineuse, car les algorithmes peuvent capter les biais humains subconscients. En 2016, ProPublica a découvert que les logiciels d'évaluation des risques utilisés pour prévoir quels criminels étaient les plus susceptibles de récidiver présentaient des préjugés raciaux contre les Noirs. Le recours excessif à l'IA pour des choses comme le recrutement, la notation des crédits et les jugements de libération conditionnelle a également créé des problèmes dans le passé.
Amazon aurait abandonné le projet de recrutement d'IA au début de l'année dernière après que les dirigeants aient perdu confiance en lui. Des sources de Reuters ont déclaré que les recruteurs d'Amazon ont examiné les recommandations générées par l'IA mais ne se sont jamais fiés uniquement à son jugement.
Amazon a déclaré à Business Insider mais a refusé de commenter davantage.
Un porte-parole d'Amazon a déclaré à Business Insider : "Cela n'a jamais été utilisé par les recruteurs d'Amazon pour évaluer les candidats" et que l'entreprise s'est engagée en faveur de la diversité et de l'égalité sur le lieu de travail.
Le site Business Insider Emails & Alerts met en évidence chaque jour dans votre boîte de réception. Adresse e-mail
Suivez Business Insider Australie sur Facebook, Twitter, LinkedIn et Instagram.