Une vraie IA aurait pu empêcher cet homme d'être viré par un ordinateur
L'intelligence artificielle (IA) est de plus en plus courante dans des secteurs tels que les banques, les compagnies d'assurance, les sociétés de gestion de patrimoine, les usines, le commerce électronique, les entreprises de vente au détail, les gares, les hôtels et d'autres industries de services. Bien qu'il y ait une crainte constante que l'IA prenne en charge les emplois humains à l'avenir, dans ce cas particulier, une erreur commise par un humain coûte à un employé son emploi.
Ibrahim Diallo, un développeur de logiciels californien, a été renvoyé de son travail par une machine, parce que son ancien manager n'avait pas renouvelé son contrat sur le nouveau système informatique qui a conduit à l'entrée en action de divers systèmes automatisés et à la fin, il a été escorté de l'immeuble de bureaux par deux agents de sécurité. Ce qui est plus ironique, c'est que même ses managers étaient impuissants à l'arrêter.
"J'ai été viré", a déclaré Diallo, qui a partagé son histoire dans un article de blog détaillé. "Mon manager ne pouvait rien y faire. Le réalisateur ne pouvait rien y faire. Ils sont restés impuissants alors que je faisais mes bagages et que je quittais le bâtiment.
En tant que récit consultatif sur les dangers de l'automatisation, Diallo espère que les entreprises le prendront comme une leçon pour ne pas être trop dépendantes de l'automatisation.
On dirait que j'ai fait le top #1 des hacknews aujourd'hui !!! J'ai vraiment apprécié les commentaires La machine m'a viré#TheMachineFiredMe Artcle: https://t.co/D89JrwjmMF Commentaires: https://t.co/5yYHvAuCuE pic.twitter.com/peOMk0RO8t — Ibrahim Diallo (@dialloibu) 20 juin 2018
Diallo travaillait depuis seulement huit mois de son contrat de trois ans avec l'entreprise de Los Angeles lorsqu'un jour sa carte-clé, qui lui permettait d'entrer au travail, a cessé de fonctionner.
"Ce n'était pas la première fois que ma carte-clé tombait en panne, j'ai supposé qu'il était temps de la remplacer", a écrit Diallo dans son article de blog. « Dès que je suis arrivé à mon étage, je suis allé voir ma responsable pour lui faire savoir. Elle a promis de m'en commander un nouveau tout de suite.
Ce n'était que le début d'événements bizarres qui se sont déroulés au cours des jours suivants, avec des choses comme sa carte d'entrée au bureau qui ne fonctionnait pas, des systèmes ne lui permettant pas de se connecter, des notifications comme "accès bloqué", etc. En fait, même le mot "inactif" était mentionné à côté de son nom. Diallo a dû être renvoyé chez lui pendant trois semaines quand tout a dégénéré lorsqu'un agent de sécurité est venu l'escorter hors du bâtiment. Il avait été licencié : une série d'e-mails automatisés le notifiant avaient été envoyés à plusieurs personnes et les responsables ne pouvaient rien faire.
Après plusieurs semaines, on a compris que Diallo avait rejoint le groupe à un moment où son entreprise avait été rachetée par une autre. Son supérieur direct qui faisait partie de l'organisation précédente avait été licencié et envoyé travailler à domicile pendant une période transitoire. Son ex-patron a pratiquement cessé de faire quoi que ce soit, ce qui comprenait également le non-renouvellement du contrat de Diallo dans le nouveau système. Une fois que les machines ont pris le relais, cela a déclenché le processus de résiliation automatisé, irréversible et algorithmique, qui a interrompu de manière persistante tous les accès à l'entreprise de Diallo. En conséquence, l'intervention humaine est devenue infructueuse, ce qui a finalement abouti à la résiliation de Diallo. Bien que Diallo ait été réintégré plus tard, il a choisi de passer à un autre emploi.
L'ensemble de l'incident a mis en lumière que les systèmes d'IA n'avaient pas d'intelligence basée sur la connaissance (telle que l'expertise des ressources humaines sous la forme de règles, de texte et de lien logique) ni d'intelligence informatique (la capacité d'apprendre à partir d'ensembles de données - comme l'identification les facteurs pouvant conduire à un licenciement). Au final, c'est un système démodé et mal conçu qui a vu Diallo se faire virer suite à une erreur humaine, qui n'a été ni communiquée ni expliquée. Ce qui a également été révélé, c'est le manque d'humanité démontré ainsi que l'inflexibilité et l'inefficacité de l'IA.
Dans les scénarios où une personne a perdu son emploi et ses moyens de subsistance, il faut de la sensibilité et de la compréhension pour gérer la situation, ce qui n'est possible que par contact humain et non par un chatbot IA. En d'autres termes, tout travail impliquant la gestion des personnes, l'application de l'expertise et l'interaction sociale, l'implication humaine dans ces domaines sera toujours nécessaire, ce qui ne peut être égalé par une machine.
Source : La conversation