Incidentes Asociados
Amazon tuvo que desechar su herramienta de contratación de inteligencia artificial porque era "sexista" y discriminaba a las mujeres solicitantes, según un informe de Reuters.
Las esperanzas de Amazon de crear la herramienta de contratación de IA perfecta se desvanecieron cuando se dio cuenta de que el algoritmo contenía un error enorme y evidente: era "sexista", según un informe publicado por Reuters ayer (10 de octubre).
El reportero de Reuters, Jeffrey Dastin, habló con cinco especialistas en aprendizaje automático, todos los cuales optaron por permanecer en el anonimato. En 2014, todos estos programadores estaban trabajando en algoritmos de contratación para analizar las solicitudes de empleo y utilizarlas en una herramienta de contratación. La herramienta utilizó tecnología de inteligencia artificial, como el aprendizaje automático, para calificar a cada solicitante entre una y cinco estrellas, de la misma manera que se califican los productos de Amazon.
Amazon esperaba que la herramienta fuera un "santo grial", según uno de los programadores. "Literalmente querían que fuera un motor en el que te daré 100 currículos, escupirá los cinco primeros y los contrataremos".
Sin embargo, en 2015, se hizo evidente que el algoritmo discriminaba según el género. Los modelos informáticos se entrenaron para calificar a los candidatos mediante el análisis de patrones en los currículos enviados a Amazon durante los últimos 10 años. Dado que históricamente la industria de la tecnología ha estado y sigue estando dominada por hombres, la mayoría de las aplicaciones que observó la computadora provenían de hombres.
Luego, el sistema aprendió por sí mismo que se preferían los candidatos masculinos y penalizó las solicitudes que incluían la palabra "femenino", como en "equipo de baloncesto femenino" o "club de ajedrez femenino". Los programadores entrevistados por Reuters dijeron que la IA rebajó la calificación de los graduados de dos universidades exclusivamente para mujeres. Los programadores no especificaron de qué universidades procedían estos solicitantes.
Si bien la empresa intentó editar los programas para que estos términos parecieran neutrales, no podía garantizar que la herramienta no siguiera discriminando a las mujeres. El equipo se disolvió en 2015 después de que los ejecutivos "perdieran la esperanza" en el proyecto, informó Reuters.
Amazon dijo que la herramienta "nunca fue utilizada por los reclutadores de Amazon para evaluar candidatos", pero afirmó que los reclutadores sí observaron las recomendaciones generadas por la herramienta mientras contrataban para puestos en la empresa. La compañía se negó a comentar más sobre el asunto.
La comunidad de recursos humanos está cada vez más interesada en el potencial de la IA para ayudar a acelerar el proceso de contratación. A principios de 2018, un informe sobre las tendencias emergentes de recursos humanos publicado por LinkedIn encontró que el 76% de los profesionales de recursos humanos reconocieron que la IA será al menos algo importante para el trabajo de contratación en los próximos años. Las IA fueron calificadas como las más útiles para buscar, seleccionar y programar candidatos.
Sin embargo, este desarrollo reciente puede desinflar a los entusiastas de la IA que esperan implementar estas tecnologías en sus empresas en un futuro cercano. Como las IA son tan buenas como la suma de los datos que reciben, es probable que continúen reflejando sesgos de una manera que refleje los problemas de diversidad que existen en el mundo laboral real.
Sin embargo, algunos aún argumentarían que la IA es la solución a los sesgos generados por humanos. Un estudio de recursos humanos publicado por IBM descubrió que los reclutadores pasan tan solo seis segundos mirando un currículum que llega a su escritorio. IBM argumenta que cuando se toman decisiones basadas puramente en impresiones instantáneas, los profesionales de recursos humanos se inclinan más a recurrir a su propio sesgo implícito, algo que una IA podría corregir ayudando a acelerar las etapas iniciales de contratación.
En cualquier caso, muchos de los que trabajan en recursos humanos y temen que una IA pueda reemplazar su trabajo probablemente suspirarán aliviados al saber que la tecnología aún tiene un largo camino por recorrer antes de que suplante totalmente a los trabajadores humanos.
Edificio Amazon en Santa Clara, California. Imagen: Wolterke/Depositphotos