Incidentes Asociados
Un sistema de contratación de inteligencia artificial se ha convertido en un poderoso guardián para algunos de los empleadores más destacados de Estados Unidos, remodelando la forma en que las empresas evalúan su fuerza laboral y cómo los posibles empleados demuestran su valía. Diseñado por la empresa de tecnología de contratación HireVue, el sistema utiliza las cámaras de los teléfonos móviles o de las computadoras de los candidatos para analizar sus movimientos faciales, elección de palabras y voz antes de clasificarlos frente a otros candidatos en función de una puntuación de "empleabilidad" generada automáticamente. Las "evaluaciones impulsadas por IA" de HireVue se han generalizado tanto en algunas industrias, incluidas la hospitalidad y las finanzas, que las universidades hacen esfuerzos especiales para capacitar a los estudiantes sobre cómo mirar y hablar para obtener los mejores resultados. Más de 100 empleadores ahora usan el sistema, incluidos Hilton y Unilever, y se han analizado más de un millón de buscadores de empleo. Pero algunos investigadores de IA argumentan que el sistema es aceite de serpiente digital: una combinación infundada de mediciones superficiales y cálculos numéricos arbitrarios que no tienen sus raíces en hechos científicos. Argumentan que analizar a un ser humano así podría terminar penalizando a los hablantes no nativos, a los entrevistados visiblemente nerviosos o a cualquier otra persona que no encaje en el modelo de apariencia y habla. El sistema, argumentan, asumirá un papel fundamental para ayudar a decidir la carrera de una persona. Pero dudan que incluso sepa lo que está buscando: ¿cómo se ve y suena el empleado perfecto, de todos modos? “Es un desarrollo profundamente inquietante que tengamos tecnología patentada que afirma diferenciar entre un trabajador productivo y un trabajador que no está en forma, en función de sus movimientos faciales, su tono de voz, sus gestos”, dijo Meredith Whittaker, co- fundador del AI Now Institute, un centro de investigación en Nueva York. “Es pseudociencia. Es una licencia para discriminar”, agregó. “Y las personas cuyas vidas y oportunidades literalmente están siendo moldeadas por estos sistemas no tienen ninguna posibilidad de opinar”. Loren Larsen, directora de tecnología de HireVue, dijo que tales críticas no están informadas y que "la mayoría de los investigadores de IA tienen una comprensión limitada" de la psicología detrás de cómo piensan y se comportan los trabajadores. Larsen comparó la capacidad de los algoritmos para impulsar los resultados de contratación con la mejora de los resultados de salud de la medicina y dijo que la ciencia lo respaldaba. El sistema, argumentó, es aún más objetivo que las métricas defectuosas utilizadas por los reclutadores humanos, cuyo pensamiento llamó la "caja negra definitiva". “Las personas son rechazadas todo el tiempo en función de su apariencia, sus zapatos, cómo se metieron la camisa y cuán ‘calientes’ son”, dijo a The Washington Post. “Los algoritmos eliminan la mayor parte de eso de una manera que no ha sido posible antes”. La IA, dijo, no explica sus decisiones ni les da a los candidatos sus puntajes de evaluación, que calificó de "no relevantes". Pero “no es lógico”, dijo, asumir que algunas personas podrían ser eliminadas injustamente por el juez automatizado. “Cuando 1,000 personas solicitan un trabajo”, dijo, “999 personas serán rechazadas, ya sea que una empresa use IA o no”. El miércoles, un destacado grupo de derechos, el Electronic Privacy Information Center, presentó una [queja oficial](https://www.washingtonpost.com/technology/2019/11/06/prominent-rights-group-files-federal-complaint -against-ai-hiring-firm-hirevue-citando-injustas-prácticas engañosas/?itid=lk_inline_manual_22 ) instando a la Comisión Federal de Comercio a investigar a HireVue por prácticas "injustas y engañosas". Los resultados "sesgados, improbables y no replicables" del sistema, escribieron los funcionarios de EPIC, constituyen una gran amenaza para la privacidad y los medios de subsistencia de los trabajadores estadounidenses. Los algoritmos inescrutables han obligado a los buscadores de empleo a enfrentar un nuevo tipo de ansiedad en las entrevistas. Nicolette Vartuli, estudiante de la Universidad de Estudiante de último año de Matemáticas y Economía de Connecticut con un GPA de 3.5, dijo que investigó HireVue e hizo todo lo posible para deslumbrar a la máquina de entrevistas de trabajo. Respondió con confianza y en el tiempo asignado. Usó palabras clave positivas. Sonrió, a menudo y ampliamente. Pero cuando no consiguió el trabajo de banca de inversión, no podía ver cómo la había calificado la computadora o preguntarle cómo podía mejorar, y agonizaba por lo que se había perdido. ¿No se había visto lo suficientemente amigable? ¿Hablaba demasiado alto? ¿En qué creía que se había equivocado el sistema de contratación de IA? "Siento que esa es quizás una de las razones por las que no lo entendí: hablé con demasiada naturalidad", dijo Vartuli. "Tal vez no usé lo suficientemente grande, palabras elegantes. Usé 'congl Omerate una vez. HireVue dijo que su sistema disecciona los detalles más pequeños de las respuestas de los candidatos (sus expresiones faciales, su contacto visual y el "entusiasmo" percibido) y compila informes que las empresas pueden usar para decidir a quién contratar o descartar. Se equivocaron en pequeñas cosas y no pueden preguntarle a la máquina qué podrían hacer mejor. Los gerentes de contratación humanos pueden usar otros factores, más allá del puntaje de HireVue, para decidir qué candidatos pasan la prueba de primera ronda. El sistema, dijo HireVue, Emplea una precisión e imparcialidad sobrehumanas para concentrarse en un empleado ideal, recogiendo pistas reveladoras que un reclutador podría pasar por alto. Los principales empleadores con muchas vacantes de alto volumen y de nivel de entrada están recurriendo cada vez más a tales sistemas automatizados para ayudar a encontrar candidatos, evaluar currículos. y agilizar la contratación.La nueva empresa de Silicon Valley, AllyO, por ejemplo, anuncia un "bot de automatización de reclutamiento" que puede enviar un mensaje de texto a un candidato: "¿Está dispuesto a mudarse?" Y un competidor de HireVue, el "reclutador digital" VCV, ofrece un sistema similar para usar en entrevistas telefónicas, durante las cuales la voz y las respuestas de un candidato son analizadas por una máquina de "selección automática". el nuevo y valiente mundo del reclutamiento corporativo semiautomático. Dice que puede ahorrarles a los empleadores una fortuna en entrevistas en persona y eliminar rápidamente a los solicitantes que se consideren mediocres. HireVue dice que también permite a las empresas ver candidatos de un grupo de contratación ampliado: cualquier persona con un teléfono y se puede aplicar la conexión a Internet Nathan Mondragon, jefe de psicología industrial y organizacional de HireVue, le dijo a The Post que la evaluación estándar de HireVue de 30 minutos incluye media docena de preguntas, pero puede arrojar hasta 500,000 puntos de datos, todos los cuales se convierten en ingredientes en el puntaje calculado de la persona. El empleador decide las preguntas escritas, que luego el sistema de HireVue muestra al candidato mientras registra y analiza sus respuestas. cómo se mueve la cara de una persona para determinar, por ejemplo, qué tan emocionado parece alguien por una determinada tarea de trabajo o cómo se comportaría con clientes enojados. Esas “Unidades de Acción Facial”, dijo Mondragón, pueden representar el 29 por ciento del puntaje de una persona; las palabras que dicen y las “características de audio” de su voz, como su tono, conforman el resto. “Los humanos son inconsistentes por naturaleza. Inyectan su subjetividad en las evaluaciones”, dijo Mondragón. “Pero AI puede hacer una base de datos de lo que procesa el ser humano en una entrevista, sin prejuicios. … Y los humanos ahora creen en las decisiones de las máquinas sobre la retroalimentación humana”. Para capacitar al sistema sobre lo que debe buscar y adaptar la prueba a un trabajo específico, los trabajadores actuales del empleador que desempeñan el mismo trabajo, "todo el espectro, desde los de alto rendimiento hasta los de bajo rendimiento", se someten a la evaluación de IA, dijo Larsen. Sus respuestas, dijo Larsen, luego se comparan con un "punto de referencia de éxito" del desempeño laboral anterior de esos trabajadores, como qué tan bien cumplieron con sus cuotas de ventas y qué tan rápido resolvieron las llamadas de los clientes. Los mejores candidatos, en otras palabras, terminan pareciendo y sonando como los empleados a los que les había ido bien antes de que los posibles empleados se presentaran. Después de que un nuevo candidato realiza la prueba de HireVue, el sistema genera una boleta de calificaciones sobre sus "competencias y comportamientos", incluida su "disposición para aprender", "escrupulosidad y responsabilidad" y "estabilidad personal", la última de las cuales se define por cómo bien, pueden hacer frente a "clientes o compañeros de trabajo irritables". Esos rasgos de personalidad estimados por computadora se utilizan luego para agrupar a los candidatos en niveles alto, medio y bajo en función de su "probabilidad de éxito". Los empleadores aún pueden buscar candidatos clasificados en el nivel inferior, pero varios entrevistados por The Post dijeron que se centraron principalmente en los que más les gustaban al sistema informático. HireVue ofrece solo el vistazo más limitado a sus algoritmos de entrevista, tanto para proteger sus secretos comerciales como porque la empresa no siempre sabe cómo el sistema decide quién se etiqueta como "futuro mejor desempeño". La empresa solo ha dado vagas explicaciones a la hora de definir qué palabras o comportamientos ofrecen mejores resultados. Para un trabajo en un centro de llamadas, dice la compañía, se pueden alentar las palabras "de apoyo", mientras que las "agresivas" pueden hundir la puntuación. HireVue dijo que su junta de asesores expertos revisa regularmente su enfoque algorítmico, pero la empresa se negó a poner el sistema a disposición de una auditoría independiente. La compañía, dijo Larsen, está “explorando el uso de un auditor independiente en este momento, para ver cómo podría funcionar”. HireVue lanzó su servicio de evaluación de IA en 2014 como un complemento de su software de entrevistas en video, que más de 700 empresas han utilizado para casi 12 millones de entrevistas en todo el mundo. La empresa con sede en Utah no revelará sus ingresos, el costo para los empleadores o una lista completa de clientes. La empresa dijo el mes pasado que el gigante de capital privado Carlyle Group se convertiría en su nuevo inversor mayoritario, aportando una suma no revelada de un fondo de 18.500 millones de dólares. Patrick McCarter, director gerente de la firma de inversión, que utiliza internamente las entrevistas en video de HireVue y dijo que "buscará implementar evaluaciones de candidatos impulsadas por IA con el tiempo", dijo que el dinero ayudaría a la compañía a expandirse a más empleadores y ofertas de trabajo más especializadas. , tanto en los Estados Unidos como en todo el mundo. En el gigante hotelero Hilton International, miles de solicitantes para puestos de reservas, gestión de ingresos y centro de llamadas han pasado por el sistema de inteligencia artificial de HireVue, y los ejecutivos atribuyen a las entrevistas automatizadas la reducción del tiempo promedio de contratación de seis semanas a cinco días. Sarah Smart, vicepresidenta de reclutamiento global de la compañía, dijo que el sistema ha rediseñado radicalmente los rituales de contratación de Hilton, lo que le permite a la compañía seleccionar a los solicitantes a la velocidad del rayo. Los gerentes de contratación inundados de solicitantes ahora pueden simplemente mirar a quién clasificó el sistema y filtrar el resto: "Es raro que un reclutador necesite salir de ese rango", dijo. En el conglomerado de bienes de consumo Unilever, a HireVue se le atribuye haber ayudado a ahorrar 100 000 horas de entrevistas y aproximadamente $1 millón en costos de contratación al año. Leena Nair, directora de recursos humanos de la empresa, dijo que el sistema también había ayudado a evitar que los gerentes contrataran solo a "mini-yos" que se ven y actúan como ellos, impulsando las "contrataciones de diversidad" de la empresa, como ella las llamó, en aproximadamente 16 por ciento “Cuanto más digitales nos volvemos, más humanos nos volvemos”, agregó. Dane E. Holmes, director global de gestión de capital humano del cliente de HireVue, Goldman Sachs, escribió en Harvard Business Review esta primavera que las aproximadamente 50 000 grabaciones de entrevistas en video del gigante bancario eran "un tesoro de datos que nos ayudará a llevar a cabo investigaciones perspicaces". El banco de inversión dijo que utiliza el sistema de entrevistas en video de HireVue, pero no sus evaluaciones generadas por computadora. cuánto tiempo permanecerían en la firma. La compañía, agregó, también está "experimentando con algoritmos de lectura de currículums" que ayudarían a decidir los departamentos y tareas de los nuevos empleados. "¿Puedo imaginar un futuro en el que las empresas dependan exclusivamente de máquinas y algoritmos para calificar currículos y entrevistas? Tal vez, para algunos ", escribió. (El "elemento humano" del reclutamiento, prometió, sobreviviría en Goldman Sachs). n negocios de grupos más pequeños como Re:work, una organización sin fines de lucro de Chicago que capacita a personas locales desempleadas que buscan empleo para carreras en la industria tecnológica. Shelton Banks, el jefe del grupo, dijo que HireVue había demostrado ser una guía insustituible para evaluar qué candidatos valdrían la pena. La organización sin fines de lucro una vez permitió que casi cualquier persona participara en su programa intensivo de capacitación de ocho semanas, pero muchos se agotaron temprano. Ahora, todos los candidatos pasan primero por la evaluación de IA, que los clasifica según sus habilidades de resolución de problemas y negociación, y ayuda al grupo a determinar quién podría tener más motivación, curiosidad y determinación. "Saber dónde se encuentra esa persona en un punto de partida, cuando se trata de la vida de esta persona", dijo Banks, "puede ayudarnos a hacer evaluaciones más precisas de las personas a las que les decimos sí o no". Pero Lisa Feldman Barrett, una neurocientífica que estudia las emociones, dijo que es "muy escéptica" de que el sistema realmente pueda comprender lo que está mirando. Recientemente dirigió un equipo de cuatro científicos sénior, incluido un experto en sistemas de "visión por computadora", en evaluar más más de 1,000 trabajos de investigación publicados que estudian si el rostro humano muestra expresiones universales de emoción y qué tan bien los algoritmos pueden entenderlas. Descubrieron que los sistemas se han vuelto bastante perceptivos para detectar movimientos faciales, detectando la diferencia, por ejemplo, entre una sonrisa y un ceño fruncido. Pero todavía son preocupantemente imprecisos en la comprensión de lo que realmente significan esos movimientos y lamentablemente no están preparados para las grandes diferencias culturales y sociales en la forma en que las personas muestran emociones o personalidad. Mire el ceño fruncido, dijo Barrett: una computadora podría ver el ceño fruncido de una persona y asumir que se enoja fácilmente, una señal de alerta para alguien que busca un trabajo de asociado de ventas. Pero la gente frunce el ceño todo el tiempo, dijo, “cuando no están enojados: cuando se concentran mucho, cuando están confundidos, cuando tienen gases”. Luke Stark, un investigador del laboratorio de investigación de Microsoft en Montreal que estudia las emociones y la inteligencia artificial, que habló como individuo, no como empleado de Microsoft, se mostró igualmente escéptico sobre la capacidad de HireVue para predecir la personalidad de un trabajador a partir de sus entonaciones y giros de frase. Los sistemas como HireVue, dijo, se han vuelto bastante hábiles para arrojar puntos de datos que parecen convincentes, incluso cuando no están respaldados por la ciencia. Y encuentra que este "carisma de los números" es realmente preocupante debido al exceso de confianza que los empleadores pueden brindarles al tratar de decidir el camino de las carreras de los solicitantes. Los mejores sistemas de inteligencia artificial de la actualidad, dijo, son notoriamente propensos a malinterpretar el significado y la intención. Pero le preocupaba que incluso su éxito percibido en adivinar el verdadero valor de una persona pudiera ayudar a perpetuar una monocultura corporativa "homogénea" de autómatas, cada nuevo empleado modelado según el último. La compañía, dijo Larsen de HireVue, audita sus datos de desempeño para buscar prácticas de contratación potencialmente discriminatorias, conocidas como impactos adversos, utilizando técnicas de "prueba de sesgo de clase mundial". Los algoritmos de la compañía, agregó, han sido entrenados “utilizando el conjunto de datos más profundo y diverso de unidades de acción facial disponible, que incluye personas de muchos países y culturas”. Sin embargo, el crecimiento de HireVue se enfrenta a algunos inconvenientes normativos. En agosto, el gobernador de Illinois J.B. Pritzker (D) firmó una primera ley en la nación que obligar a los empleadores a decirles a los solicitantes de empleo cómo funciona su sistema de contratación de IA y obtener su consentimiento antes de someterlos a la prueba. La medida, que HireVue dijo que apoya, entrará en vigencia el 1 de enero. El representante estatal Jaime Andrade Jr. (D), quien copatrocinó el proyecto de ley, dijo que impulsó la ley de transparencia después de enterarse de cuántos solicitantes de empleo fueron rechazados en la etapa de IA de una entrevista de trabajo. Le preocupaba que los acentos hablados o las diferencias culturales pudieran terminar distorsionando indebidamente los resultados, y que las personas que se negaran a presentarse a la evaluación pudieran ser castigadas injustamente al no ser consideradas para el trabajo. “¿Qué es el empleado modelo? ¿Es un hombre blanco? ¿Una mujer blanca? ¿Alguien que sonríe mucho? él dijo. “¿Cuáles son los puntos de datos que se utilizan? Tiene que haber alguna explicación, y tiene que haber consentimiento”. HireVue advierte a los candidatos que no hay forma de engañar, engañar o piratear el sistema, porque evalúa decenas de miles de factores para evaluar un "conjunto único de competencias personales". “Haz lo que te parezca más natural”, dice la compañía en una [guía] en línea (https://www.hirevue.com/blog/how-to-prepare-for-your-hirevue-assessment). Pero aproximadamente una docena de entrevistados que tomaron la prueba de inteligencia artificial, incluidos algunos que obtuvieron el trabajo, le dijeron a The Post que se sentía alienado y deshumanizado tener que sorprender a una computadora antes de ser considerado digno del tiempo de una empresa. Cuestionaron qué se haría con el video después y dijeron que se sentían incómodos por tener que cumplir con las demandas inexplicables de la IA. Varios dijeron que se negaron rotundamente a hacer la entrevista porque, en palabras de un candidato, la idea “me puso los pelos de punta”. Los candidatos dijeron que han buscado ideas sobre cómo maximizar su valor ante el ojo del algoritmo, recurriendo a los cientos de videos y manuales en línea que sugieren, por ejemplo, que se sienten frente a una pared blanca y limpia, para que el desorden del fondo no les quite la calificación. . “Pegue unos ojos saltones a su cámara web. Hará que sea más fácil mantener el contacto visual”, sugirió un usuario en el foro de mensajes de Reddit. Stark, el investigador de IA, dijo que estas "teorías populares de algoritmos" eran una respuesta natural de las personas que se enfrentaban a sistemas de IA impenetrables con el poder de decidir su destino. Las técnicas de supervivencia pueden sentirse tranquilizadoras, dijo, incluso si están equivocadas: elija las palabras correctas, use el tono correcto, ponga una cara lo suficientemente feliz. “Es una forma de tratar de dar a las personas que se enfrentan a un sistema opaco que no entienden un sentimiento de agencia”, dijo. Pero algunos entrevistados de HireVue cuestionaron si era justo o incluso inteligente juzgar el desempeño laboral o las habilidades personales de una persona en función de la media hora que pasó mirando una cámara web. También les preocupaba que los nervios de las personas por la naturaleza extraña del examen pudieran terminar descalificándolos por completo. Emma Rasiel, profesora de economía en la Universidad de Duke que asesora regularmente a los estudiantes que buscan trabajo en Wall Street, dijo que ha visto un número creciente de estudiantes excesivamente inquietos por su próximo examen HireVue. El departamento de economía de la universidad ahora ofrece una [guía] (https://econ.duke.edu/sites/econ.duke.edu/files/file-attachments/Typical%20Questions%20from%20HireVue%20Interviews.pdf) para las entrevistas de HireVue. en su [sitio web] de recursos para estudiantes (https://econ.duke.edu/dfe/student-resources), incluidas preguntas típicas ("¿Qué significa integridad para usted?") y consejos de comportamiento ("¡Actúe con naturalidad, hable despacio! ”). “Es una forma tan nueva y no probada de comunicar quiénes son que aumenta su ansiedad”, dijo Rasiel. “Tenemos una generación ansiosa, y ahora les estamos pidiendo que hablen con la pantalla de una computadora, respondiendo preguntas a una cámara… sin pautas reales sobre cómo verse mejor o peor”. Las demandas misteriosas también pueden llevar la angustia de las personas a toda marcha. Cuando Sheikh Ahmed, un joven de 25 años de Queens, solicitó puestos de cajero en bancos de Nueva York, dijo que recibió ocho ofertas de evaluación de HireVue, todas programadas para el mismo día. Estudió guías sobre cómo hablar y actuar, pero descubrió que la parte más difícil era calcular el ángulo de la cámara: demasiado alto, le preocupaba, y se vería dominante; demasiado bajo, y se vería encogido y débil. Antes de su maratón de entrevistas de inteligencia artificial, se puso una camisa de vestir impecable, una corbata y pantalones de pijama y fue al estudio de música insonorizado de su padre, lejos del pinzón de sociedad de la familia. También apagó su sistema de aire acondicionado, con la esperanza de que el ruido de fondo no estropeara su puntaje. Cambió ligeramente sus respuestas en cada entrevista, con la esperanza de que el algoritmo encontrara algo que le gustara. Pero le resultó agotador y desalentador resumir su experiencia de vida y su valía en un fragmento de sonido apto para computadora. Al final, su boca estaba seca, estaba cubierto de sudor y estaba paranoico porque no había hecho suficiente contacto visual mientras se preocupaba por el pájaro. Unas semanas después de las entrevistas, dijo, todavía está esperando saber si consiguió un trabajo. Corrección: debido a información incorrecta de Goldman Sachs, The Post informó erróneamente en una versión anterior de esta historia que el banco de inversión utilizó el programa de evaluación impulsado por IA de HireVue. Los representantes de Goldman Sachs dijeron que solo usan el sistema de entrevistas en video de HireVue, no sus evaluaciones automatizadas.