Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 567

Incidents associés

Incident 3520 Rapports
Employee Automatically Terminated by Computer Program

Loading...
Ingénieur logiciel licencié, exclu de ses fonctions pendant trois semaines par machine
theregister.co.uk · 2018

Ce n'était qu'une question de temps avant que les machines ne commencent à riposter. Et soyons honnêtes, nous savions tous que les ingénieurs logiciels seraient les premiers à tomber.

C'est ainsi qu'Ibrahim Diallo, en Californie, aux États-Unis, s'est retrouvé licencié de son travail, s'est fait tuer son accès au réseau et sa carte d'entrée, et n'a pas pu se faire réintégrer malgré son propre manager, et même le patron de son manager, l'assurant qu'il était encore employé.

C'est vrai, dans une version démente mais moins apocalyptique de War Games, notre courageux ingénieur a été renvoyé par un système automatisé et les humains n'ont rien pu faire à ce sujet.

Incroyablement, il a fallu trois semaines pour que le problème soit résolu et pour que Diallo non viré revienne à son bureau. Curieusement, il a décidé à ce moment-là de démissionner et d'apporter son expertise ailleurs. Que diable s'est-il passé ?

Eh bien, selon Diallo, dans un article de blog qu'il a publié cette semaine, personne ne le savait. Tout ce qu'il savait, c'est qu'un jour sa carte-clé a cessé de fonctionner, ce qui a entraîné une série d'appels embarrassants au gars de la sécurité et une série de laissez-passer temporaires.

Nous y avons tous été. Sauf qu'il a commencé à recevoir des appels de son recruteur lui demandant pourquoi il avait été viré. Il est allé voir son manager qui lui a assuré qu'il était toujours en poste - seulement huit mois après le début de son contrat de trois ans - mais lentement, il a été exclu de tous les systèmes sur lesquels il avait besoin de travailler.

Le directeur a continué à insister pour qu'il entre jusqu'au jour où – à la suite d'un e-mail sévère – la sécurité est arrivée et l'a escorté hors du bâtiment.

« Qui diable envoie ces e-mails ! » beugla-t-il alors que HAL 9000 regardait sans émotion. Car c'était HAL - ou, du moins sa version - qui était derrière la situation, elle a finalement été découverte. Mais il a fallu des semaines sans travail avant que cela ne sorte.

Transition

"Juste avant mon embauche, cette société a été rachetée par une entreprise beaucoup plus importante et je l'ai rejoint pendant la transition", a expliqué Diallo. "Mon manager de l'époque appartenait à l'administration précédente.

"Un matin, je suis venu travailler pour voir que son bureau avait été nettoyé, comme s'il avait disparu. En tant qu'employé à temps plein, il avait été licencié. Il devait travailler à domicile en tant qu'entrepreneur pendant la durée d'une transition J'imagine qu'en raison du choc et de la frustration, il a décidé de ne pas faire beaucoup de travail après cela. Une partie de ce travail comprenait le renouvellement de mon contrat dans le nouveau système.

Robot Romeo se fait casser son « antenne » pour tenter de « charmer » un Américain irritable LIRE LA SUITE

Il s'est avéré qu'un administrateur système qui gagnait du temps avait écrit un script pour exclure automatiquement un employé, le déclencheur étant l'e-mail de licenciement officiel de l'employé.

L'automatisation s'est étendue au point que le non-renouvellement du contrat - nécessitant une intervention humaine - a conduit à l'e-mail de résiliation, ce qui a entraîné la désactivation de la carte-clé de cet employé et la coupure de son accès au réseau sur chaque système sur lequel il avait des privilèges.

Et l'e-mail ordonnant à la sécurité de l'escorter hors du bâtiment ? Cela a apparemment été déclenché par sa tentative d'utiliser sa carte-clé annulée pour entrer dans le bâtiment. Un autre script a signalé en rouge la tentative d'entrée non autorisée et a alerté la sécurité. Quand il a ensuite essayé de se connecter à ses comptes bloqués, eh bien…

Le système était également insensible aux efforts visant à arrêter le processus, quelle que soit la hauteur du problème. Finalement, l'entreprise a abandonné et Diallo a dû être réembauché en tant que tout nouvel employé, avec toutes ses coordonnées saisies à nouveau - y compris les coordonnées bancaires - et ses privilèges de réseau recréés à partir de zéro. Une nouvelle carte-clé a dû être commandée.

"Ce que j'appelais la sécurité de l'emploi n'était qu'une illusion", écrit-il nerveusement. "Je n'ai pas pu m'empêcher d'imaginer ce qui se serait passé si j'avais réellement fait une erreur dans cette entreprise. L'automatisation peut être un atout pour une entreprise, mais il doit y avoir un moyen pour que les humains prennent le relais si la machine fait une erreur. . J'ai raté trois semaines de paie parce que personne ne pouvait arrêter la machine."

Oh nous savons

Bien sûr, ce qu'il ne sait pas, mais nous suggérons, c'est qu'il ne s'agissait pas d'une machine au travail – du moins pas une fonctionnant de manière autonome.

Quelque part, il y a un opérateur bâtard de l'enfer qui sait exactement ce qui s'est passé. Nous imaginons qu'il est actuellement allongé sur une plage des Caraïbes, vérifiant de temps en temps que tout est en place et que le système continue d'être invité à donner l'impression qu'il entre dans le bâtiment la nuit et repart le matin.

Personne ne le voit et on n'ose pas lui poser de questions. Personne n'a ouvert sa porte depuis des années et c'est comme ça qu'il l'aime. Nous vous tirons chapeau, monsieur. ®

Sponsorisé : Devenir un leader pragmatique de la sécurité

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd