Incidentes Asociados
Una IA real podría haber salvado a este hombre de ser despedido por una computadora
La inteligencia artificial (IA) se está volviendo más común en industrias como bancos, compañías de seguros, empresas de gestión de patrimonio, fábricas, comercio electrónico, empresas minoristas, estaciones de tren, hoteles y otras industrias de servicios. Si bien existe un temor constante de que la IA se haga cargo de los trabajos humanos en el futuro, en este caso particular, un error cometido por un humano le costó el trabajo a un empleado.
Ibrahim Diallo, un desarrollador de software californiano, fue despedido de su trabajo por una máquina, porque su gerente anterior no había renovado su contrato en el nuevo sistema informático que llevó a que varios sistemas automatizados entraran en acción y, al final, lo escoltaran de el edificio de oficinas por dos guardias de seguridad. Lo que es más irónico, que incluso sus gerentes fueron impotentes para detenerlo.
“Me despidieron”, dijo Diallo, quien compartió su historia en una publicación de blog detallada. “No había nada que mi manager pudiera hacer al respecto. No había nada que el director pudiera hacer al respecto. Se quedaron impotentes mientras empacaba mis cosas y salía del edificio”.
Como una advertencia sobre los peligros de la automatización, Diallo espera que las empresas lo tomen como una lección para no depender demasiado de la automatización.
¡Parece que llegué al top # 1 de hacknews hoy! Disfruté mucho los comentarios La máquina me despidió #TheMachineFiredMe Artículo: https://t.co/D89JrwjmMF Comentarios: https://t.co/5yYHvAuCuE pic.twitter.com/peOMk0RO8t — Ibrahim Diallo (@dialloibu) 20 de junio de 2018
Diallo había estado trabajando durante solo ocho meses de su contrato de tres años con la empresa en Los Ángeles cuando un día su tarjeta de acceso, que le permitía entrar al trabajo, dejó de funcionar.
“No era la primera vez que fallaba mi tarjeta llave, asumí que era hora de reemplazarla”, escribió Diallo en su publicación de blog. “Tan pronto como llegué a mi piso, fui a ver a mi gerente para avisarle. Ella prometió pedirme uno nuevo de inmediato”.
Este fue solo el comienzo de eventos extraños que tuvieron lugar durante algunos días posteriores, con cosas como que su tarjeta de entrada a la oficina no funcionaba, los sistemas no le permitían iniciar sesión, notificaciones como 'acceso prohibido', etc. De hecho, incluso la palabra 'inactivo' se mencionó junto a su nombre. Diallo tuvo que ser enviado a casa durante tres semanas cuando todo llegó a un punto crítico cuando un guardia de seguridad llegó para escoltarlo fuera del edificio. Lo habían despedido: una serie de correos electrónicos automáticos notificándolo, se había enviado a varias personas y los gerentes no podían hacer nada.
Después de muchas semanas, se descubrió que Diallo se había unido en un momento en que su empresa había sido comprada por otro. Su jefe directo, que formaba parte de la organización anterior, había sido despedido y enviado a trabajar desde casa durante un período de transición. Su exjefe básicamente dejó de hacer cualquier cosa, lo que también incluía la no renovación del contrato de Diallo en el nuevo sistema. Una vez que las máquinas se hicieron cargo, activó el proceso de terminación algorítmico, irreversible y automatizado, que interrumpió persistentemente todo el acceso de la empresa de Diallo. Como resultado, la intervención humana se volvió infructuosa, lo que finalmente resultó en la terminación de Diallo. Aunque Diallo fue reincorporado más tarde, optó por pasar a otro trabajo.
Todo el incidente sacó a la luz que los sistemas de IA no tenían inteligencia basada en el conocimiento (como experiencia en recursos humanos en forma de reglas, texto y enlace lógico) ni inteligencia computacional (la capacidad de aprender de conjuntos de datos, como identificar los factores que pueden conducir al despido). Al final, fue un sistema anticuado y mal diseñado que hizo que Diallo fuera despedido debido a un error humano, que no se comunicó ni se explicó. Lo que también salió a la luz fue la falta de humanidad mostrada y también la rigidez e ineficacia de la IA.
En escenarios, donde uno ha perdido su trabajo y sustento, se requiere sensibilidad y comprensión para manejar la situación, lo cual solo es posible a través del contacto humano y no a través de un chatbot de IA. En otras palabras, cualquier trabajo que involucre la gestión de personas, la aplicación de experiencia y la interacción social, seguirá siendo necesaria la participación humana en dichas áreas, lo que no puede ser igualado por una máquina.
Fuente: La conversación