Incidentes Asociados
Amazon eliminó una herramienta interna "sexista" que usaba inteligencia artificial para clasificar las solicitudes de empleo.
La IA fue creada por un equipo de la oficina de Amazon en Edimburgo en 2014 como una forma de clasificar automáticamente los CV y seleccionar a los candidatos más prometedores.
Sin embargo, rápidamente aprendió a preferir a los candidatos masculinos sobre los femeninos, según miembros del equipo que hablaron con Reuters.
Se dieron cuenta de que estaba penalizando los CV que incluían la palabra "femenino", como "capitana del club de ajedrez femenino". Según los informes, también rebajó la calificación de los graduados de dos universidades exclusivamente para mujeres.
El problema surgió del hecho de que el sistema se entrenó con datos enviados por personas durante un período de 10 años, la mayoría de los cuales procedían de hombres.
La IA se modificó en un intento de corregir el sesgo. Sin embargo, el año pasado, Amazon perdió la fe en su capacidad de ser neutral y abandonó el proyecto por completo.
Se cree que los reclutadores de Amazon usaron el sistema para ver las recomendaciones al contratar, pero no se basaron en las clasificaciones. Actualmente, las mujeres constituyen el 40% de la fuerza laboral de Amazon.
Stevie Buckley, cofundadora del sitio web de empleo del Reino Unido, Honest Work, que utilizan empresas como Snapchat para reclutar para puestos tecnológicos, dijo que "la premisa básica de esperar que una máquina identifique a los solicitantes de empleo sólidos en función de las prácticas históricas de contratación en su empresa es un método infalible para escalar rápidamente el sesgo inherente y las prácticas de contratación discriminatorias”.