Incidentes Asociados
Un destacado grupo de derechos está instando a la Comisión Federal de Comercio a enfrentarse a la empresa de tecnología de reclutamiento [HireVue](https://www.washingtonpost.com/technology/2019/10/22/ai-hiring-face-scanning-algorithm- ¿cada vez más-decides-si-mereces-el-trabajo/?itid=lk_inline_manual_2), argumentando que la empresa ha recurrido a prácticas comerciales desleales y engañosas en el uso de la tecnología de escaneo facial para evaluar la “empleabilidad” de los candidatos.
El Centro de información de privacidad electrónica, conocido como EPIC, presentó el miércoles una [queja oficial](https://www.washingtonpost.com/context/epic-s-ftc-complaint-about-hirevue/9797b738-e36a-4b7a-8936 -667cf8748907/?itid=lk_inline_manual_4) pidiendo a la FTC que investigue las prácticas comerciales de HireVue, diciendo que el uso por parte de la empresa de sistemas de inteligencia artificial no probados que escanean los rostros y las voces de las personas constituía una amenaza a gran escala para los trabajadores estadounidenses.
Las "evaluaciones impulsadas por IA" de HireVue, que más de 100 empleadores han utilizado en más de un millón de candidatos laborales, utilizan entrevistas en video para analizar cientos de miles de puntos de datos relacionados con la voz de una persona, la selección de palabras y los movimientos faciales. Luego, el sistema crea una estimación generada por computadora de las habilidades y comportamientos de los candidatos, incluida su "disposición para aprender" y "estabilidad personal".
A los candidatos no se les informan sus puntajes, pero los empleadores pueden usar esos informes para decidir a quién contratar o descartar. La empresa con sede en Utah fue objeto de [un informe del Washington Post](https://www.washingtonpost.com/technology/2019/10/22/ai-hiring-face-scanning-algorithm-increasingly-decides-whether- you-deserve-job/?itid=lk_inline_manual_8) el mes pasado, en el que los investigadores de IA criticaron su tecnología como "profundamente perturbadora" y "opaca".
La "recopilación intrusiva y el análisis secreto de datos biométricos" de HireVue causan daños financieros y de privacidad sustanciales, escribieron los funcionarios de EPIC. Y “debido a que estos algoritmos son secretos”, agregaron, “... es imposible que los candidatos a un puesto de trabajo sepan cómo se utilizan sus datos personales o que consientan dichos usos”.
La FTC se negó a comentar. HireVue no respondió a las solicitudes de comentarios.
La denuncia podría, por primera vez, llamar la atención federal sobre una industria en crecimiento de firmas tecnológicas que anuncian sistemas automatizados que, según dicen, pueden evaluar los currículos de los candidatos, adivinar las personalidades de las personas e identificar reclutas problemáticos. Los críticos dicen que los sistemas son deshumanizantes, invasivos y se basan en una ciencia defectuosa que podría perpetuar las prácticas de contratación discriminatorias.
La tecnología también se enfrenta a una presión cada vez mayor por parte de los legisladores. En enero, Illinois promulgará una ley que obligará a los empleadores a informar a los solicitantes de empleo y a los reguladores cómo funcionan sus sistemas de videoentrevistas de IA. Los copatrocinadores del [proyecto de ley] (https://www.ilga.gov/legislation/publicacts/fulltext.asp?Name=101-0260), aprobado en agosto por el gobernador J.B. Pritzker (D), dijeron que les preocupaba que los sistemas podrían penalizar injustamente a los candidatos y ocultar sesgos en la forma en que evalúan a un "empleado modelo".
Los sistemas de HireVue se han generalizado para los empleadores porque pueden reducir los costos de contratación y acelerar el tiempo de respuesta para las nuevas contrataciones. Algunas universidades ahora instruyen a los estudiantes sobre cómo impresionar a los algoritmos ocultos: en la presentación de la FTC, los abogados de EPIC citan una guía de la escuela de negocios de la Universidad de Maryland, que les dice a los entrevistados: “Los robots lo comparan con las historias de éxito existentes; no buscan candidatos listos para usar”.
EPIC, con sede en Washington, se ha convertido en uno de los organismos de control más reconocidos y efectivos de la industria tecnológica, ayudando a dar forma a la política de EE. UU. en torno a la privacidad en línea, las libertades civiles y la vigilancia doméstica durante casi 25 años. El grupo ha desafiado a gigantes tecnológicos y agencias gubernamentales, incluidos Facebook, Google y la Agencia de Seguridad Nacional, a través de quejas de consumidores, presentaciones de agencias y demandas federales.
EPIC instó a la FTC a detener la calificación automática de candidatos de trabajo de HireVue y hacer públicos los algoritmos y criterios utilizados para analizar el comportamiento de las personas. La tecnología no está regulada en gran medida, pero la FTC hace cumplir regularmente los estatutos de "actos o prácticas desleales y engañosos" contra las empresas que se descubre que están haciendo reclamos a los consumidores sin una "base razonable" de una manera que probablemente "cause daños sustanciales".
En su queja, los funcionarios de EPIC dijeron que las evaluaciones impulsadas por IA de HireVue producen resultados que son "sesgados, improbables y no replicables". El sistema, argumentaron, podría calificar injustamente a alguien en base a prejuicios relacionados con su género, raza, orientación sexual o diferencias neurológicas. HireVue dice que utiliza técnicas de "prueba de sesgo de clase mundial" para detectar y prevenir la discriminación en la contratación.
HireVue anuncia que su tecnología no utiliza "tecnología de reconocimiento facial" porque sus sistemas no intentan identificar a las personas. Pero EPIC argumentó que la afirmación de HireVue es engañosa y que la FTC ha dictaminado que el término se aplica a cualquier "tecnología que analice la geometría facial para predecir las características demográficas, la expresión o las emociones".
EPIC también argumentó que HireVue no cumplió con los estándares internacionales para los sistemas de IA establecidos por la Organización para la Cooperación y el Desarrollo Económicos y respaldados por los Estados Unidos a principios de este año. HireVue violó esos principios, dijo EPIC, porque sus evaluaciones algorítmicas no pueden ser evaluadas o "desafiadas significativamente" por los candidatos para el trabajo que han evaluado.
La empresa no ha garantizado la precisión, confiabilidad o validez de sus puntajes generados por computadora, agregó la denuncia. Tampoco ha "evaluado adecuadamente si el propósito, los objetivos y los beneficios de sus evaluaciones algorítmicas superan los riesgos".