Problema 2664

La creciente popularidad de la inteligencia artificial (IA) no puede subestimarse. La mayoría de las empresas ahora están integrando algún tipo de tecnología de inteligencia artificial en sus procesos cotidianos y la esfera de recursos humanos también está firmemente en este camino.

Incluso en 2021, una encuesta de Gartner encontró que casi todos los ejecutivos de reclutamiento ya usaban IA para optimizar al menos parte del proceso de reclutamiento y contratación. Ahora, [el 99 % de las empresas de Fortune 500 confían en el software de contratación de inteligencia artificial para seleccionar talentos] (https://www.forbes.com/sites/forbesnonprofitcouncil/2021/11/16/ai-can-be-a-force-for -good-in-recruiting-and-hiring-new-employees/?sh=5a0dd21f1e16) como un medio para identificar candidatos de mayor calidad, acelerar el proceso de contratación y liberar tiempo de los empleados.

En general, la intención es optimizar el proceso de contratación haciéndolo más eficiente. Si bien todo esto tiene sentido, se vuelve problemático cuando la IA también se cita como una forma de eliminar, o al menos reducir, el riesgo de discriminación en el proceso de contratación.

¿Puede el uso de la IA reducir la discriminación?

Algunos software de reclutamiento de IA se comercializan como una herramienta que puede eliminar el sesgo inconsciente y la discriminación en el reclutamiento al tomar juicio humano fuera del proceso de toma de decisiones.

La teoría es que la tecnología de IA tiene un coeficiente intelectual muy alto, pero no EQ o inteligencia emocional, por lo que no hará las mismas suposiciones discriminatorias sobre un candidato por su género, su formación académica o la ortografía de su nombre que podría hacer un ser humano. incluso inconscientemente.

En algunos casos, esto puede ser efectivo, pero dependerá en gran medida de la forma en que se haya desarrollado el algoritmo de IA y los criterios de selección utilizados para distinguir entre los candidatos.

¿Qué pasa si la IA aprende a discriminar?

La IA generalmente funciona revisando conjuntos de datos históricos y aprendiendo un patrón para identificar lo que quiere su usuario, en función de decisiones humanas anteriores.

En el reclutamiento, esto significa dar a la tecnología múltiples ejemplos de candidatos históricos y sus índices de éxito, analizarlos para averiguar qué cualidades conforman a un 'candidato exitoso' y luego desarrollar un algoritmo que identifique a los posibles candidatos que tienen más probabilidades de tener éxito y eliminarlos. aquellos con cualidades indeseables.

Desafortunadamente, esto significa que el algoritmo puede detectar los sesgos discriminatorios anteriores, que luego aprenden a repetir ese comportamiento.

¿Puede la propia IA ser discriminatoria?

Además, también existe el riesgo de que el software de IA pueda crear sus propios problemas de discriminación al intentar simplificar el proceso de selección. Por ejemplo, cuando el software de reclutamiento analiza los patrones de escritura o habla de un posible candidato para evaluarlos, esto podría tener un impacto negativo desproporcionado en las personas neurodiversas o discapacitadas, o incluso en las personas cuyo primer idioma no es el inglés.

Rechazar a estos candidatos simplemente sobre esta base podría dar lugar a demandas por discriminación contra el empleador, a pesar de que la decisión fue tomada por el software de IA sin el conocimiento del empleador.

Un estudio reciente de la Universidad de Cambridge también ha revelado que las decisiones sobre tecnología de IA pueden verse afectadas por variables irrelevantes como la iluminación, el fondo, la ropa y las expresiones faciales.

Esto no solo significa que es más probable que las decisiones de contratación tomadas con esta tecnología sean injustas e inexactas, sino que existe un mayor riesgo de que estas "variables irrelevantes" puedan ser manipuladas o aprendidas por algunos solicitantes, para aumentar las posibilidades de un individuo de aprobar AI. evaluaron las etapas de reclutamiento. Esto socavaría el propósito mencionado a menudo de utilizar la IA en primer lugar: aumentar la equidad y maximizar la imparcialidad.

Por lo tanto, es fundamental que los empleadores exijan a los proveedores que expliquen los criterios de selección utilizados por su tecnología y cómo se aplicarán, para que el empleador pueda evaluar e identificar cualquier riesgo potencial y corregirlo antes de usar el software.

ramificaciones legales

Los reguladores están pidiendo un mayor escrutinio de la IA en la esfera del empleo, que es particularmente vulnerable al riesgo, y la ley todavía se está poniendo al día.

Hasta ahora, en el Reino Unido, [el gobierno acaba de publicar una 'Política de regulación de IA'] (https://www.gov.uk/government/publications/establishing-a-pro-innovation-approach-to-regulating-ai /establecimiento-de-un-enfoque-pro-innovación-para-la-declaración-de-política-de-regulación-de-la-IA); y la Oficina del Comisionado de Información todavía está investigando las denuncias de que los algoritmos utilizados en el reclutamiento "tienen un impacto negativo en las oportunidades de empleo de personas de diversos orígenes".

Por el contrario, la UE está un paso por delante y debe implementar la Ley AI. Esto designa el 'empleo' como un área de "alto riesgo". Según estas nuevas leyes, la tecnología de IA utilizada en relación con el empleo y/o la gestión de trabajadores deberá cumplir con obligaciones estrictas antes de que pueda comercializarse.

En el futuro, esta ley afectará a cualquier empresa del Reino Unido cuyas operaciones se extiendan de alguna manera a la UE, y es probable que otros países (fuera de la UE) hagan lo mismo promulgando leyes similares.

¿Cómo pueden protegerse los empleadores?

Cuando se usa correctamente, la IA puede ser un recurso útil para agilizar el proceso de reclutamiento y selección, pero los empleadores deben tener cuidado: ellos y los desarrolladores de la tecnología son actualmente responsables de garantizar que no se use de manera discriminatoria.

Para hacer esto, recomendamos que los empleadores:

• Hable con los proveedores antes de comprar tecnología y evalúe si la tecnología es adecuada para su empresa y, en particular, para sus objetivos de D&I
• Use la IA solo en partes definidas y menos problemáticas del proceso de contratación (p. ej., verificación de referencias) para reducir la dependencia excesiva de ella
• Tener políticas y prácticas claras que cubran el uso de IA en el proceso de contratación.
• Capacitar a quienes trabajan junto con la tecnología sobre sus posibles limitaciones. Realice periódicamente una auditoría de las decisiones tomadas por la tecnología, quizás utilizando a un miembro del equipo de recursos humanos.
• Pruebe de forma rutinaria la tecnología de IA utilizada y notifique de inmediato a los proveedores cualquier inquietud

Si bien la IA puede ser una herramienta útil para automatizar aspectos del proceso de contratación, las empresas deben abordar su uso con cautela y no confiar completamente en los procesos para garantizar un sistema de contratación imparcial y no discriminatorio.