Incidentes Asociados
La automatización puede ser una bendición para una empresa, pero también puede ser una responsabilidad grave, como Ibrahim Diallo podría decirle fácilmente después de su terrible experiencia de ser bloqueado sin ceremonias e imparable por el sistema mientras los gerentes e incluso el director de la empresa permanecían impotentes. La historia de Diallo comenzó pareciendo que algo simplemente había funcionado mal, pero al final, su archivo tuvo que ser desechado por completo y tuvo que ser contratado como nuevo empleado, a pesar de que solo llevaba 8 meses en un contrato de 3 años. Si bien Diallo finalmente recuperó el estado que le correspondía y continuó trabajando, el incidente lo hizo perder tres semanas de trabajo, una propuesta peligrosa en la economía actual.
Ibrahim Diallo era un contratista que firmó un nuevo contrato para una empresa en el momento equivocado. La empresa había sido vendida, y un gerente de contratación que era un empleado de tiempo completo había sido relegado a la categoría de contratista y enviado a trabajar desde casa como medida presupuestaria. Como tal, cuando llegó el momento de confirmar y renovar el contrato en el que Diallo estaba, el gerente no lo hizo. El proceso de terminación para los contratistas de la empresa se automatizó, por lo que comenzó el proceso de bola de nieve de varios días. Primero, la llave de la tarjeta de Diallo se desactivó, luego ya no pudo estacionar. En un momento, tuvo que usar su configuración personal de Linux para "piratear" el sistema y corregir algunos errores críticos, que por supuesto surgieron principalmente de problemas relacionados con el sistema que desactivaba su perfil poco a poco. Eventualmente, el sistema envió un correo electrónico con un tono de enojo y aspecto oficial que puso al director que elogió el brillante trabajo de Diallo y al guardia de seguridad del que era un buen amigo en la incómoda posición de escoltarlo fuera de las instalaciones. Le tomó tres semanas ponerse en contacto con su reclutador y ver cómo subía la escalera su boleto de apoyo personal antes de que pudiera regresar al trabajo.
La moraleja de la historia aquí es un tropo común en el mundo de la IA, desde simples programas automatizados como este hasta la IA compleja y humana y los autos sin conductor; tiene que haber alguna forma de que los humanos intervengan. En este caso, la organización tuvo que pasar tres semanas con otros tomando el relevo, y Diallo tuvo que pasar tres semanas sin un cheque de pago. Sin embargo, en comparación con las posibles consecuencias de una IA insegura y poco confiable, esto podría considerarse leve.