L'automatisation peut être une aubaine pour une entreprise, mais elle peut aussi être un sérieux handicap, comme pourrait facilement vous le dire Ibrahim Diallo après son calvaire d'avoir été mis en boîte sans ménagement et sans arrêt par le système alors que les managers et même le chef d'entreprise étaient impuissants. L'histoire de Diallo a commencé comme si quelque chose avait simplement mal fonctionné, mais à la fin, son dossier a dû être entièrement rejeté et il a dû être recruté en tant que nouvel employé, bien qu'il n'ait été engagé que depuis 8 mois dans un contrat de 3 ans. Alors que Diallo a finalement retrouvé son statut légitime et a continué à travailler, l'incident lui a fait manquer trois semaines de travail, une proposition dangereuse dans l'économie actuelle.
Ibrahim Diallo était un entrepreneur qui a rejoint un nouveau contrat pour une entreprise au mauvais moment. L'entreprise avait été vendue et un responsable du recrutement qui était un employé à temps plein avait été renversé au statut d'entrepreneur et envoyé au travail à domicile par mesure budgétaire. Ainsi, au moment de confirmer et de renouveler le contrat sur lequel Diallo se trouvait, le manager ne s'en est pas occupé. Le processus de résiliation des sous-traitants de l'entreprise a été automatisé, de sorte que le processus boule de neige de plusieurs jours a commencé. D'abord, la carte-clé de Diallo a été désactivée, puis il ne pouvait plus se garer. À un moment donné, il a dû utiliser sa configuration Linux personnelle pour "pirater" le système et corriger certaines erreurs critiques, qui découlaient bien sûr principalement de problèmes concernant le système désactivant petit à petit son profil. Finalement, le système a envoyé un e-mail rageur et d'apparence officielle qui a mis le réalisateur qui louait le travail brillant de Diallo et l'agent de sécurité avec qui il était de bons amis dans la position délicate de l'escorter hors des lieux. Il lui a fallu trois semaines pour entrer en contact avec son recruteur et voir son ticket d'assistance personnelle gravir les échelons avant de pouvoir retourner au travail.
La morale de l'histoire ici est un trope commun dans le monde de l'IA, des simples programmes automatisés comme celui-ci jusqu'à l'IA complexe et humaine et aux voitures autonomes ; il doit y avoir un moyen pour les humains d'intervenir. Dans ce cas, l'organisation a dû passer trois semaines avec d'autres pour prendre le relais, et Diallo a dû passer trois semaines sans salaire. Cependant, comparé aux conséquences potentielles d'une IA non sûre et peu fiable, cela pourrait être considéré comme léger.