Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 568

Incidents associés

Incident 3520 Rapports
Employee Automatically Terminated by Computer Program

Loading...
Tiré par un algorithme, et personne ne peut comprendre pourquoi
boingboing.net · 2018

Tiré par un algorithme, et personne ne peut comprendre pourquoi

Ibrahim Diallo en était à huit mois d'un contrat de trois ans avec une grande entreprise lorsque ses systèmes ont brusquement décidé qu'il était licencié : d'abord, il a annoncé à son recruteur qu'il avait été licencié, puis il a cessé d'accepter son laissez-passer pour le parking et les virages, puis ses connexions ont cessé de fonctionner, et à chaque tour, son superviseur, et le patron de cette personne, et les RH, étaient incapables d'expliquer ou d'inverser la disparition régulière et automatisée d'Ibrahim de l'entreprise.

Finalement, ils ont dû le renvoyer chez lui pendant trois semaines pendant que les grands patrons échangeaient volée après volée d'e-mails avec le personnel informatique mystifié jusqu'à ce qu'ils aillent au fond des choses : le directeur direct d'Ibrahim avait été licencié et envoyé travailler à domicile pendant une une période de transition. Son ex-patron a essentiellement cessé de faire quoi que ce soit, y compris de cocher la case indiquant que le contrat d'Ibrahim était toujours en vigueur, et cette étape manquée a déclenché le processus de résiliation automatisé, irréversible et algorithmique, qui a interrompu sans relâche tout accès à l'entreprise d'Ibrahim - un processus entièrement automatisé. processus qui garantissait que les anciens employés ne se retrouvaient pas accidentellement avec un accès continu à des systèmes et des données sensibles.

L'explication est anodine, mais le processus était absolument effrayant, quelque chose comme "Remember Me", l'épisode de Star Trek:TNG où le monde entier disparaît un goutte à la fois, laissant le Dr Crusher dans une sorte de désert astro-satrien (c'est aussi a plus qu'une ressemblance passagère avec l'histoire Shatterday de Harlan Ellison).

Le lendemain, j'avais été bloqué sur tous les systèmes, à l'exception de ma machine Linux. Même le service que nous utilisions pour enregistrer nos heures pour être payé avait été désactivé. J'ai passé la première moitié de la journée à documenter mon travail. Après le déjeuner, deux personnes sont apparues à mon bureau. L'un était un long visage familier qui semblait éviter tout contact visuel direct. C'était José et son collègue agent de sécurité. Il m'a cordialement informé qu'il devait m'escorter hors du bâtiment. Le directeur était furieux. Ils avaient reçu un e-mail très menaçant pour m'escorter hors du bâtiment et ne faisaient que leur travail. « Qui diable envoie ces e-mails ! » J'ai été renvoyé. Mon manager ne pouvait rien y faire. Le réalisateur ne pouvait rien y faire. Ils sont restés impuissants pendant que je rangeais mes affaires et que je quittais le bâtiment.

La machine m'a viré [Ibrahim Diallo/Idiallo]

(via quatre liens courts)

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd