Incidentes Asociados
'La máquina me despidió': una publicación de blog de Ibrahim Diallo habla exactamente de lo que se titula. Diallo fue literalmente despedido por una máquina un buen día. Se dio cuenta después de que su pase de seguridad dejó de funcionar, se deshabilitó el inicio de sesión de su sistema informático y, finalmente, el personal de seguridad lo sacó del edificio. Él espera que su historia detallada en su blog sirva como una advertencia a las empresas acerca de confiar demasiado en la automatización.
el despido de diallo
Después de tener que ingresar a su oficina con la ayuda de su guardia de seguridad, no poder iniciar sesión en su computadora y una larga espera, su reclutador le dijo que había recibido un correo electrónico que decía que su contrato había sido rescindido.
Ella prometió solucionar el problema.
Cuando Diallo ingresó a su oficina de Los Ángeles al día siguiente, había sido bloqueado de todos los sistemas "excepto mi máquina Linux" y luego, después del almuerzo, dos personas aparecieron en su escritorio para informarle que se había recibido un correo electrónico diciéndoles para escoltarlo fuera del edificio.
El gerente de Diallo no pudo hacer nada al respecto.
El jefe de Ibrahim estaba confundido pero impotente.
Fui despedido. No había nada que mi gerente pudiera hacer al respecto. No había nada que el director pudiera hacer al respecto.
Sumándose a la situación incontrolable, Diallo escribe: "Se quedaron impotentes mientras empacaba mis cosas y salía del edificio".
"Lo vi escalar a títulos más grandes y poderosos una y otra vez, pero nadie podía hacer nada al respecto".
"De vez en cuando, adjuntaban un correo electrónico del sistema", lamenta.
Correo electrónico generado por el sistema enviado a Ibrahim indicándole su despido. (Cortesía: blog de Ibrahim Diallo)
En el momento en que fue despedido, tenía ocho meses en un contrato de tres años y durante las siguientes tres semanas recibió copias en correos electrónicos sobre su caso.
"No tenía alma y estaba escrito en rojo, ya que daba órdenes que dictaban mi destino. Deshabilite esto, deshabilite aquello, revoque el acceso aquí, revoque el acceso allá, escolte fuera de las instalaciones, etc.", escribe Ibrahim sobre la crueldad del sistema.
El sistema estaba buscando sangre y yo fui su primera víctima.
¿Por qué la máquina lo despidió después de todo?
Los jefes de Ibrahim tardaron tres semanas en darse cuenta de por qué lo habían despedido.
Su firma estaba pasando por cambios, tanto en términos de los sistemas que usaba como de la gente que empleaba.
Su gerente original había sido despedido recientemente y enviado a trabajar desde casa por el resto de su tiempo en la firma y en ese período no había renovado el contrato de Diallo en el nuevo sistema.
Este es el punto en el que las máquinas se hicieron cargo, despidiéndolo como un ex-empleado.
"Todas las órdenes necesarias se envían automáticamente y cada orden completada activa otra orden. Por ejemplo, cuando se envía la orden para deshabilitar mi tarjeta de acceso, no hay forma de que se vuelva a habilitar".
Explicando más la naturaleza de la estructura, agrega que "una vez que se deshabilita, se envía un correo electrónico a seguridad sobre los empleados despedidos recientemente. Escanear la tarjeta de acceso es una señal de alerta. También se envía la orden de deshabilitar mi cuenta de Windows. Hay también uno para mi cuenta de Jira. Y así sucesivamente".
"No tenía alma y estaba escrito en rojo, ya que daba órdenes que dictaban mi destino", se lamentó Diallo sobre la crueldad de la máquina.
El último adiós de Diallo
Aunque a Diallo se le permitió volver al trabajo, se había perdido el pago de tres semanas y lo escoltaron fuera del edificio "como un ladrón".
También tuvo que explicar su desaparición a otros y descubrió que sus compañeros de trabajo se habían distanciado, por lo que decidió cambiarse de trabajo.
Es otro ejemplo de una falla del pensamiento humano donde permiten que sean humanos contra máquinas en lugar de humanos más máquinas, dice Dallio.
Aquí es donde comienza a hablar sobre el papel de la Inteligencia Artificial para mitigar la situación.
Así es como la IA podría haberlo salvado
"Una de las habilidades fundamentales para todos los humanos en un mundo de IA es la responsabilidad: solo porque el algoritmo dice que es la respuesta, no significa que realmente lo sea", explica Ibrahim.
Los sistemas no mostraban inteligencia basada en el conocimiento, lo que significa que no tenían un modelo diseñado para encapsular el conocimiento (como la experiencia en recursos humanos) en forma de reglas, texto y enlaces lógicos.
Al mismo tiempo, los sistemas no mostraron inteligencia como la capacidad de aprender de conjuntos de datos, como reconocer los factores que podrían llevar a que alguien sea despedido.
Como dice phys.org, Ibrahim fue despedido como resultado de un sistema anticuado y mal diseñado desencadenado por un error humano.
Un sistema de IA más práctico podría usar una combinación de técnicas para hacerlo más inteligente.
Por ejemplo, un sistema de IA podría haber aprendido las reglas que se aplicarán a los matices de situaciones reales de los registros de recursos humanos de la empresa.
Para ser más específicos, un concepto de IA llamado "lógica difusa" puede interpretar situaciones que no son solo en blanco y negro, aplicando evidencia y conclusiones en diversos grados para evitar el tipo de toma de decisiones severa que condujo al despido de Diallo.
¿Y usted? ¿Aún preferiría un gerente humano, ya que considera que el contacto humano es esencial, sin importar cuán convincente sea la IA?