Incidents associés
Workday est accusé d'avoir créé des algorithmes qui ont entraîné des préjugés contre les candidats noirs dans la quarantaine, selon un procès.
Lancée plus tôt cette semaine devant le tribunal de district nord de Californie, l'affaire allègue que la société SaaS de RH et de paie "offre illégalement un système de sélection des candidats basé sur un algorithme qui détermine si un employeur doit accepter ou rejeter une demande d'emploi en fonction de la race de l'individu , l'âge et/ou le handicap."
Le recours collectif plainte [PDF] - qui vise à représenter d'autres candidats qui pourraient avoir été touchés - découle de l'expérience alléguée de Derek Mobley, un homme noir de plus de 40 ans qui souffre d'anxiété et de dépression. Des documents judiciaires indiquent que depuis 2018, Mobley a postulé pour 80 à 100 postes dans des entreprises qui utilisent Workday comme outil de sélection au recrutement.
Il s'est vu refuser un emploi à chaque occasion, même s'il est titulaire d'un baccalauréat en finance du Morehouse College, une université privée d'arts libéraux pour hommes historiquement noirs à Atlanta, en Géorgie, selon les documents. Il est également titulaire d'un diplôme d'associé en administration des systèmes de réseau de l'ITT Technical Institute, Indiana.
"Les outils de sélection commercialisés par Workday auprès de ses clients permettent à ces derniers de les manipuler et de les configurer de manière discriminatoire pour recruter, embaucher et intégrer des employés. Les produits de Workday traitent et interprètent les qualifications d'un candidat et recommandent si le candidat doit être accepté ou rejeté, " ajoutent les documents.
Les documents judiciaires allèguent que les outils de Workday reposent sur des pratiques subjectives qui entraînent des préjugés contre les candidats afro-américains, ceux de plus de 40 ans et les personnes handicapées.
Le plaignant affirme que les systèmes d'IA et les outils de dépistage de Workday reposent sur des algorithmes et des entrées créés par des humains qui ont souvent "des motivations intégrées, conscientes et inconscientes, pour discriminer".
Workday a déclaré dans une déclaration à The Register que le procès était sans mérite. Il a déclaré qu'il était "engagé envers une IA digne de confiance" et agit "de manière responsable et transparente dans la conception et la livraison" de ses solutions d'IA "pour soutenir des recommandations équitables".
"Nous nous engageons dans un processus d'examen basé sur les risques tout au long du cycle de vie de nos produits pour aider à atténuer les conséquences imprévues, ainsi que dans des examens juridiques approfondis pour aider à garantir la conformité aux réglementations", a ajouté un porte-parole.