Registro de citas para el Incidente 95

Description: In January 2021, HireVue removed the controversial AI expression tracking tool from its virtual job interview software.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial
Presunto: un sistema de IA desarrollado e implementado por HireVue, perjudicó a job applicants using HireVue y HireVue customers.

Estadísticas de incidentes

ID
95
Cantidad de informes
4
Fecha del Incidente
2019-11-06
Editores
Sean McGregor, Khoa Lam

Clasificaciones de la Taxonomía CSETv1

Detalles de la Taxonomía

Harm Distribution Basis

disability, sex, race, sexual orientation or gender identity

Sector of Deployment

administrative and support service activities, professional, scientific and technical activities

Clasificaciones de la Taxonomía CSETv0

Detalles de la Taxonomía

Full Description

In January 2021, HireVue announced it would remove AI expression tracking from its platform following a complaint filed by the nonprofit Electronic Privacy Information Center. HireVue is contracted by hundreds of companies to conduct employee screening through automated video and written job interviews. The tool in question tracked users' expressions during video interviews to predict certain employment characteristics. HireVue denies any bias in the algorithm, however decided to remove the feature in response to public outcry.

Short Description

In January 2021, HireVue removed the controversial AI expression tracking tool from its virtual job interview software.

Severity

Unclear/unknown

AI System Description

HireVue's AI-enabled facial expression tracking software. The system was designed to detect "microexpressions" to evaluate the employment characteristics of an applicant.

System Developer

HireView

Sector of Deployment

Administrative and support service activities

Relevant AI functions

Perception, Cognition

AI Techniques

facial recognition, expression tracking

AI Applications

decision support, psychological inference

Location

Global

Named Entities

HireView, Electronic Privacy Information Center, Federal Trade Commission, O’Neil Risk Consulting and Algorithmic Auditing, Kevin Parker, John Davisson

Technology Purveyor

HireView

Beginning Date

2019-01-01

Ending Date

1/2021

Near Miss

Unclear/unknown

Intent

Accident

Lives Lost

No

Data Inputs

recorded video and audio

Queja y solicitud de investigación, orden judicial y otras medidas cautelares
context-cdn.washingtonpost.com · 2019

I. Resumen

Esta queja se refiere a una empresa que pretende evaluar las calificaciones de un solicitante de empleo en función de su apariencia por medio de un algoritmo propietario opaco. HireVue, una empresa ubicada en Utah, proporciona es…

Un algoritmo de escaneo facial decide cada vez más si mereces el trabajo
washingtonpost.com · 2019

Un sistema de contratación de inteligencia artificial se ha convertido en un poderoso guardián para algunos de los empleadores más destacados de Estados Unidos, remodelando la forma en que las empresas evalúan su fuerza laboral y cómo los p…

Grupo de derechos presenta una queja federal contra la empresa de contratación de inteligencia artificial HireVue, citando prácticas "injustas y engañosas"
washingtonpost.com · 2019

Un destacado grupo de derechos está instando a la Comisión Federal de Comercio a enfrentarse a la empresa de tecnología de reclutamiento [HireVue](https://www.washingtonpost.com/technology/2019/10/22/ai-hiring-face-scanning-algorithm- ¿cada…

El servicio de selección de empleo detiene el análisis facial de los solicitantes
wired.com · 2021

Pero todavía usa la entonación y el comportamiento para ayudar con las decisiones de contratación.

Es posible que los buscadores de empleo ahora necesiten impresionar no solo a los posibles jefes, sino también a los algoritmos de inteligenc…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.