Incidentes Asociados
Amazon eliminó su herramienta de contratación de inteligencia artificial después de que se descubrió que era sexista.
Foto: © 2014, Ken Wolter
Un equipo de especialistas familiarizados con el proyecto dijo a Reuters que habían estado construyendo programas informáticos desde 2014 para revisar los currículums de los solicitantes de empleo, utilizando inteligencia artificial para otorgarles puntajes que van de una a cinco estrellas.
Sin embargo, en 2015, la empresa se dio cuenta de que su nuevo sistema no calificaba a los candidatos para puestos técnicos y de desarrollo de software de manera neutral en cuanto al género.
Los modelos de computadora fueron entrenados para examinar a los solicitantes mediante la observación de patrones en los currículos enviados a la empresa durante un período de 10 años, la mayoría de los cuales procedían de hombres, un reflejo del dominio masculino en la industria tecnológica.
El sistema sancionó los currículums que incluyen "mujeres" del mundo como "capitanas de clubes de ajedrez femeninos" y rebajó la calificación de los graduados de dos universidades exclusivamente femeninas, según personas familiarizadas con el asunto.
El experimento de Amazon comenzó en un momento crucial para el minorista en línea más grande del mundo. El aprendizaje automático estaba ganando terreno en el mundo de la tecnología, gracias a un aumento en el poder de cómputo de bajo costo y el departamento de Recursos Humanos de Amazon estaba a punto de embarcarse en una ola de contrataciones.
Desde junio de 2015, la plantilla global de la empresa se ha más que triplicado hasta los 575.700 trabajadores, según muestran los documentos normativos.
Así que creó un equipo en el centro de ingeniería de Amazon en Edimburgo que creció a alrededor de una docena de personas. Su objetivo era desarrollar una IA que pudiera rastrear rápidamente la web y detectar candidatos que valiera la pena reclutar, dijeron las personas familiarizadas con el asunto.
El grupo creó 500 modelos de computadora enfocados en funciones y ubicaciones de trabajo específicas. Les enseñaron a cada uno a reconocer unos 50.000 términos que aparecían en los currículos de candidatos anteriores. Los algoritmos aprendieron a asignar poca importancia a las habilidades que eran comunes entre los solicitantes de TI, como la capacidad de escribir varios códigos de computadora, dijeron las personas.
En cambio, la tecnología favoreció a los candidatos que se describían a sí mismos usando verbos que se encuentran más comúnmente en los currículums de los ingenieros masculinos, como "ejecutado" y "capturado", dijo una persona.
El sesgo de género no fue el único problema. Los problemas con los datos que respaldaron los juicios de los modelos significaron que a menudo se recomendaban candidatos no calificados para todo tipo de trabajos, dijeron las personas. Con la tecnología arrojando resultados casi al azar, Amazon cerró el proyecto, dijeron.
La compañía de Seattle finalmente disolvió el equipo a principios del año pasado porque los ejecutivos perdieron la esperanza en el proyecto, según las personas, que hablaron bajo condición de anonimato.
Amazon se negó a comentar sobre los desafíos de la tecnología, pero dijo que la herramienta "nunca fue utilizada por los reclutadores de Amazon para evaluar candidatos". La compañía no dio más detalles. No discutió que los reclutadores miraron las recomendaciones generadas por el motor de reclutamiento.
El experimento de la compañía, que Reuters es el primero en informar, ofrece un estudio de caso sobre las limitaciones del aprendizaje automático. También sirve como una lección para la creciente lista de grandes empresas que buscan automatizar partes del proceso de contratación.
Alrededor del 55 por ciento de los gerentes de recursos humanos de EE. UU. dijeron que la inteligencia artificial, o IA, sería una parte regular de su trabajo en los próximos cinco años, según una encuesta de 2017 realizada por la firma de software de talentos CareerBuilder.
Los empleadores han soñado durante mucho tiempo con aprovechar la tecnología para ampliar la red de contratación y reducir la dependencia de las opiniones subjetivas de los reclutadores humanos. Pero los informáticos como Nihar Shah, que enseña aprendizaje automático en la Universidad Carnegie Mellon, dicen que todavía queda mucho trabajo por hacer.
"Cómo garantizar que el algoritmo sea justo, cómo garantizar que el algoritmo sea realmente interpretable y explicable, eso todavía está bastante lejos", dijo.