Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 2008

Incidents associés

Incident 3263 Rapports
Facebook Automated Year-in-Review Highlights Showed Users Painful Memories

Loading...
Facebook s'excuse pour l'année en revue Gaffe
pcmag.com · 2014

La fonctionnalité "Année en revue" de Facebook est un délice pour certains et un rappel douloureux pour d'autres des événements de 2014 dont ils préféreraient ne pas se souvenir à la fin de l'année.

Rebecca, la fille du concepteur Web Eric Meyer, est décédée en 2014. La semaine dernière, Meyer a écrit sur son angoisse en voyant sa photo en tant que image en vedette dans l'année en revue concoctée par les algorithmes de Facebook et qui lui a été livrée la veille de Noël.

"Je ne suis pas allé chercher le chagrin cet après-midi, mais il m'a quand même trouvé", Meyer [a écrit sur son blog(Ouvre dans une nouvelle fenêtre)](http://meyerweb.com/eric/thoughts/2014/12/ 24/inadvertance-algorithmic-cruelty/). "[A]et j'ai des concepteurs et des programmeurs à remercier pour cela. Dans ce cas, les concepteurs et les programmeurs sont quelque part sur Facebook."

Au moins le réseau social a eu la décence de s'excuser pour sa surdité de ton. Comme repéré par The Guardian(ouvre dans une nouvelle fenêtre), Meyer a déclaré qu'il avait reçu des excuses personnelles de Jonathan Gheller, chef de produit de Facebook pour Year in Review.

Gheller l'a contacté "avant que l'histoire ne commence à paraître dans les journaux, et il s'est sincèrement excusé", Meyer [a écrit dans un post de suivi(Ouvre dans une nouvelle fenêtre)](http://meyerweb.com/eric/thinkts/2014 /12/27/bien-ça-s'est-escaladé-rapidement/). Le représentant de Facebook a également déclaré à Meyer qu'il était "déterminé à faire mieux à l'avenir".

"[L'application] était géniale pour beaucoup de gens, mais dans ce cas précis, nous lui avons apporté du chagrin plutôt que de la joie", a déclaré Gheller [au Washington Post_(Ouvre dans une nouvelle fenêtre)](http://www. washingtonpost.com/blogs/the-switch/wp/2014/12/26/facebooks-year-in-review-app-swings-from-merely-annoying-to-tragic/).

C'est un sentiment agréable, mais il reste le problème de faire confiance à un algorithme pour filtrer le contenu des médias sociaux d'une personne afin de déterminer ce qui la résume vraiment. Les utilisateurs de Facebook sont des individus complexes, ceux qui ne sont pas des bots ou des pages de destination d'entreprise, de toute façon.

Un de mes amis sur Facebook avait un sandwich au thon comme image principale de son bilan de l'année, tandis que The Guardian a pointé du doigt un autre utilisateur dont [l'appartement en feu (ouvre dans une nouvelle fenêtre)] (https://twitter.com/BoobsRadley/ status/549389021554966528/photo/1) était apparemment le peu d'images chaleureuses et floues que l'application a décidé de servir pour les vacances.

D'un autre côté, Meyer lui-même s'est montré très charitable quant à l'intention derrière Year in Review et a également été contrarié que certains de ses partisans aient lancé des invectives sur Facebook et l'équipe qui a construit l'application.

"Cette cruauté algorithmique par inadvertance est le résultat d'un code qui fonctionne dans l'écrasante majorité des cas, rappelant aux gens la génialité de leurs années, leur montrant des selfies lors d'une fête ou des becs de baleines depuis des voiliers ou la marina devant leur maison de vacances", a déclaré le a déclaré le concepteur de sites Web.

"Mais pour ceux d'entre nous qui ont vécu la mort d'êtres chers, ou qui ont passé beaucoup de temps à l'hôpital, ou qui ont été frappés par un divorce ou une perte d'emploi ou l'une des centaines de crises, nous ne voudrions peut-être pas revoir l'année dernière ."

Meyer a également déclaré que c'était une erreur de penser que l'application Year in Review était inhabituelle en gérant très mal certains scénarios.

"Oui, leur conception n'a pas réussi à gérer des situations comme la mienne, mais en cela, ils ne sont pas seuls. Cela se produit tout le temps, partout sur le Web, dans tous les contextes imaginables. Prendre en compte les pires scénarios est quelque chose que la conception Web fait mal, et généralement pas du tout », a-t-il déclaré.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd