Incidents associés
Le géant de la technologie a mis en conserve son système de recrutement expérimental criblé de problèmes, selon Reuters.
Amazon, en 2014, a mis en place le système de recrutement en place, dans l'espoir de mécaniser l'ensemble du processus d'embauche. Il a utilisé l'intelligence artificielle pour attribuer aux candidats des notes allant de une à cinq étoiles. Le système cracherait alors les 5 meilleurs candidats, avec la note et les qualifications les plus élevées.
Mais les spécialistes de l'apprentissage automatique ont découvert un énorme problème avec ce système presque parfait : il était sexiste. Les modèles ont été formés pour évaluer les candidats en observant les tendances dans les CV soumis à l'entreprise sur une période de 10 ans. Une majorité d'entre eux étant des hommes.
Ainsi, l'IA d'Amazon a appris que seuls les candidats masculins conviendraient et a commencé à pénaliser les CV contenant le mot "femmes". Par exemple, un CV qui aurait pu contenir, « la capitaine de l'équipe féminine de basket », a été repoussé encore plus loin dans la liste des candidats les plus aptes.
Ils ont apporté des modifications au programme et ont affirmé avoir résolu le problème, mais les gens n'étaient pas convaincus car ils pensaient que l'IA pourrait trouver d'autres moyens discriminatoires de cibler les femmes.
Amazon a défendu l'entreprise en affirmant que les recruteurs avaient examiné les CV proposés par le système mais ne s'y étaient jamais entièrement fiés. En outre, a souligné son engagement envers la diversité et l'égalité au travail.
Les rapports sur le système défectueux ne faisaient que soutenir les affirmations des femmes concernant la disparité croissante entre les sexes dans l'industrie technologique.