Incidentes Asociados
Workday está acusado de construir algoritmos que han resultado en prejuicios contra los solicitantes negros de 40 años, según una demanda.
Presentado a principios de esta semana en el Tribunal del Distrito Norte de California, el caso alega que la empresa SaaS de recursos humanos y nómina "ofrece ilegalmente un sistema de selección de candidatos basado en algoritmos que determina si un empleador debe aceptar o rechazar una solicitud de empleo en función de la raza del individuo". , edad y/o discapacidad”.
La demanda colectiva queja [PDF], que busca representar a otros solicitantes que pueden haber sido afectados, se deriva de la supuesta experiencia. de Derek Mobley, un hombre negro de más de 40 años que sufre de ansiedad y depresión. Los documentos judiciales indican que, desde 2018, Mobley ha solicitado entre 80 y 100 puestos en empresas que utilizan Workday como herramienta de selección de personal.
Se le negó el empleo en todas las ocasiones, a pesar de que tiene una licenciatura en finanzas de Morehouse College, una universidad privada históricamente de artes liberales para hombres negros en Atlanta, Georgia, según los documentos. También tiene un título de asociado en administración de sistemas de redes del ITT Technical Institute, Indiana.
"Las herramientas de selección comercializadas por Workday a sus clientes les permiten manipularlas y configurarlas de manera discriminatoria para reclutar, contratar e incorporar empleados. Los productos de Workday procesan e interpretan las calificaciones de un solicitante y recomiendan si el solicitante debe ser aceptado o rechazado. " agregan los documentos.
Los documentos judiciales alegan que las herramientas de Workday se basan en prácticas subjetivas que resultan en prejuicios contra los solicitantes afroamericanos, los mayores de 40 años y los discapacitados.
El demandante afirma que los sistemas de inteligencia artificial y las herramientas de detección de Workday se basan en algoritmos e insumos creados por humanos que a menudo tienen "motivaciones integradas, conscientes e inconscientes, para discriminar".
Workday dijo en una declaración a The Register que la demanda no tenía mérito. Dijo que estaba "comprometido con una IA confiable" y actúa "de manera responsable y transparente en el diseño y la entrega" de sus soluciones de IA "para respaldar recomendaciones equitativas".
"Participamos en un proceso de revisión basado en riesgos a lo largo del ciclo de vida de nuestro producto para ayudar a mitigar cualquier consecuencia no deseada, así como en revisiones legales exhaustivas para ayudar a garantizar el cumplimiento de las regulaciones", agregó un portavoz.