Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 539

Incidents associés

Incident 3520 Rapports
Employee Automatically Terminated by Computer Program

Loading...
L'homme qui a été viré par une machine
bbc.com · 2018

Copyright de l'image Ibrahim Diallo Image caption Ibrahim Diallo s'est retrouvé sans emploi pendant trois semaines sans savoir pourquoi

"Ce n'était pas la première fois que ma carte-clé tombait en panne, j'ai supposé qu'il était temps de la remplacer."

Commence alors une séquence d'événements qui voit Ibrahim Diallo licencié de son poste, non par son manager mais par une machine.

Il a détaillé son histoire dans un article de blog qui, espère-t-il, servira d'avertissement aux entreprises sur le fait de trop compter sur l'automatisation.

"L'automatisation peut être un atout pour une entreprise, mais il doit y avoir un moyen pour les humains de prendre le relais si la machine fait une erreur", écrit-il.

L'histoire du limogeage de M. Diallo à la machine a commencé lorsque son laissez-passer pour le gratte-ciel de Los Angeles où se trouvait son bureau n'a pas fonctionné, l'obligeant à compter sur l'agent de sécurité pour lui permettre d'entrer.

"Dès que je suis arrivé à mon étage, je suis allé voir ma responsable pour lui faire savoir. Elle m'a promis de m'en commander un nouveau tout de suite."

Copyright de l'image Getty Images Légende Ne pas pouvoir entrer dans son bureau était frustrant mais n'a déclenché aucune sonnette d'alarme pour M. Diallo

Puis il a remarqué qu'il était déconnecté de son système de travail et un collègue a dit à M. Diallo que le mot "inactif" figurait à côté de son nom.

Sa journée a empiré. Après le déjeuner - et une attente de 10 minutes pour qu'un collègue le laisse rentrer dans son bureau - son recruteur lui a dit qu'elle avait reçu un e-mail l'informant que son contrat était résilié. Elle a promis de régler le problème.

Le lendemain, il avait été bloqué sur tous les systèmes "sauf ma machine Linux" et puis, après le déjeuner, deux personnes sont apparues à son bureau. M. Diallo a été informé qu'un e-mail avait été reçu leur demandant de l'escorter hors du bâtiment.

Copyright de l'image Getty Images Légende Au moment où il a été escorté hors du bâtiment, il a su que les choses avaient pris une nouvelle tournure

Son patron était confus mais impuissant comme le rappelle M. Diallo : « J'ai été licencié. Mon manager ne pouvait rien y faire. Le directeur ne pouvait rien y faire.

À l'époque, il en était à huit mois d'un contrat de trois ans et au cours des trois semaines suivantes, il a été copié dans des courriels concernant son cas.

"Je l'ai vu passer à des titres plus gros et plus puissants encore et encore, mais personne ne pouvait rien y faire. De temps en temps, ils joignaient un e-mail système.

"Il était sans âme et écrit en rouge car il donnait des ordres qui dictaient mon sort. Désactivez ceci, désactivez cela, révoquez l'accès ici, révoquez l'accès là-bas, escortez hors des locaux, etc.

"Le système était à court de sang et j'étais sa toute première victime."

Il a fallu trois semaines aux patrons de M. Diallo pour savoir pourquoi il avait été limogé. Son entreprise traversait des changements, à la fois en termes de systèmes qu'elle utilisait et de personnes qu'elle employait.

Son directeur d'origine avait récemment été licencié et envoyé travailler à domicile pour le reste de son temps au sein de l'entreprise et, pendant cette période, il n'avait pas renouvelé le contrat de M. Diallo dans le nouveau système.

Copyright de l'image Getty Images Légende Une fois qu'une case n'a pas été cochée, tout le système s'est mis en marche pour expulser M. Diallo

Après cela, les machines ont pris le relais - le signalant comme un ancien employé.

"Toutes les commandes nécessaires sont envoyées automatiquement et chaque exécution de commande déclenche une autre commande. Par exemple, lorsque la commande de désactivation de ma carte-clé est envoyée, il n'y a aucun moyen de la réactiver.

"Une fois désactivé, un e-mail est envoyé à la sécurité concernant les employés récemment licenciés. Scanner la carte-clé est un drapeau rouge. L'ordre de désactiver mon compte Windows est également envoyé. Il y en a aussi un pour mon compte Jira. Et ainsi de suite ."

Bien que M. Diallo ait été autorisé à reprendre le travail, il avait perdu trois semaines de salaire et avait été escorté hors de l'immeuble "comme un voleur". Il a dû expliquer sa disparition aux autres et a constaté que ses collègues étaient devenus distants.

Il a décidé de changer de travail.

Son histoire devrait servir de récit édifiant sur la relation homme-machine, pense l'expert en intelligence artificielle Dave Coplin.

"C'est un autre exemple d'un échec de la pensée humaine où ils permettent d'être des humains contre des machines plutôt que des humains plus des machines", a-t-il déclaré.

"L'une des compétences fondamentales pour tous les humains dans un monde d'IA est la responsabilité - ce n'est pas parce que l'algorithme dit que c'est la réponse qu'il l'est réellement."

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd