Incidentes Asociados
El desarrollador de software Ibrahim Diallo descubrió por las malas que lo habían despedido.
Se presentó a trabajar un día y su inicio de sesión falló. Su cuenta devolvió un mensaje 'inactivo'. El reclutador que le había conseguido el trabajo llamó para preguntar si estaba bien.
Ella recibió un correo electrónico que decía que su puesto había sido "terminado", pero el gerente de Diallo no sabía nada al respecto.
"Me despidieron. No pude identificar quién me despidió", dice.
Todavía no sabía que había sido despedido por una máquina.
Acudió a su directora, quien le dijo que no se preocupara: todavía tenía trabajo y ella solucionaría el error del sistema.
"Al final del día fui a preguntarle, '¿debería volver al día siguiente, está todo bien?' Ella dice, 'sí, no te preocupes por eso, vuelve'", dice Diallo.
Pero al día siguiente, sus problemas de acceso solo aumentaron. Fue bloqueado progresivamente de más y más sistemas informáticos.
Unos días después, dos guardias de seguridad se acercaron a su escritorio para escoltarlo fuera del edificio.
"Inmediatamente conseguimos al director, conseguimos a mi gerente, todos estaban allí", dice Diallo.
"Supongo que el guardia de seguridad les mostró los correos electrónicos que decían que tenía que salir del edificio y aceptaron. Así que empaqué mis cosas y me fui".
Diallo, que reside en Los Ángeles, tenía ocho meses en un contrato de tres años.
Sus gerentes comenzaron a investigar quién enviaba los correos electrónicos y descubrieron que provenían de un sistema automatizado.
"Esta empresa estaba pasando por una transición, acababa de ser adquirida. Mi gerente anterior había sido despedido. Se suponía que debía transferir mi nombre al nuevo sistema", explica el Sr. Diallo.
"Supongo que solo hizo el trabajo parcialmente y nunca renovó el final de mi contrato.
“Cuando llegó esa fecha [final], el sistema no pidió la opinión o confirmación de nadie, simplemente comenzó el proceso: este empleado está despedido ahora.
"Envió cientos de correos electrónicos a diferentes personas para deshabilitar diferentes partes de mi acceso a la empresa".
'Me di cuenta de que mis compañeros de trabajo sospechaban'
Pasaron tres semanas antes de que el Sr. Diallo pudiera volver a trabajar y no le pagaron por ese tiempo.
"Dejaron que el sistema hiciera su trabajo para despedirme completamente y luego me contrataron como nuevo empleado", dice Diallo.
"Tuve que hacer que me enviaran por correo una nueva tarjeta llave, tenía que hacer mi depósito directo, tenía que hacer un montón de otras cosas burocráticas para volver a la normalidad".
Pero las cosas no volvieron a la normalidad para Diallo, quien sentía que otros empleados pensaban que había hecho algo mal.
"Me convertí en el tipo que fue despedido por una razón oscura. Me di cuenta de que mis compañeros de trabajo sospechaban. No creían la razón por la que me despidieron", dice.
Terminó yéndose, y luego escribió una publicación de blog sobre lo que sucedió. Se volvió viral, y dice que mucha gente se puso en contacto para decir que habían tenido una experiencia similar.
Diallo dice que todos los sistemas automatizados también deberían venir con "un gran botón rojo gigante que diga 'detener'".
"Todos me decían lo mismo: lo único que podría haberte salvado era si hubiera una manera de detener el proceso, que en mi caso no la hubo, solo teníamos que dejar que el sistema hiciera lo suyo", dijo. dice.
"Tenemos que recordar que las máquinas pueden cometer errores".
¿Podría pasarte a ti?
Darren Gardner, un experto en derecho laboral de la firma de Sydney Bartier Perry, dice que no está al tanto de una situación idéntica en Australia.
"Pero ciertamente es algo que podría suceder", agrega.
Él dice que si la situación del Sr. Diallo se hubiera desarrollado en Australia, habría tenido motivos para un caso de despido improcedente.
"Las decisiones que toman los empleadores generalmente las toman los seres humanos: las corporaciones no tienen una mente propia y necesitan ser dirigidas y controladas por algún ser humano", dice.
“Pero nada en la ley dice que un ser humano tenga que tomar decisiones por una empresa.
"Lo interesante de casos como el del señor Diallo es que las empresas ahora están usando la tecnología para tomar decisiones.
"No hay ninguna duda de que si una empresa se basó en un proceso automatizado para despedir a alguien, la propia empresa está tomando la decisión".
Contratación por máquina
Entonces, ¿qué pasa con la otra cara de la moneda: la contratación? ¿Conseguir un trabajo también podría reducirse a una máquina?
Gardner dice que ahora es común que las empresas usen software de inteligencia artificial para tomar decisiones sobre las solicitudes de empleo.
"Uno de los propósitos principales de este tipo de sistemas es escanear rápidamente aplicaciones o incluso entrevistas grabadas en video", dice.
"Ese software asume el rol de lo que tradicionalmente era un rol humano de entrevistar a los candidatos".
Los algoritmos basados en texto analizan las palabras clave y el uso del lenguaje, mientras que los sistemas de video analizan las respuestas faciales a preguntas específicas.
Un argumento a favor de los sistemas es que podrían ayudar a eliminar los sesgos en el proceso de contratación.
"Un ejemplo simple podría ser que es menos probable que un sistema de máquina elija a un candidato por su género o por su apariencia física", dice Gardner.
Sesgo y discriminación
Pero Diallo no está convencido.
"Algoritmos usu