Incidents associés
Facebook s'est excusé après avoir appris, encore une fois, que tout ne peut pas être fait de manière algorithmique. Certaines choses, semble-t-il, ont besoin de la touche humaine.
La dernière gaffe de l'entreprise découle d'une fonctionnalité apparemment anodine qu'elle propose à ses utilisateurs peu avant Noël chaque année, appelée Year in Review.
Il permet aux utilisateurs de sélectionner automatiquement des photos, des publications sur le mur et d'autres contenus de l'année écoulée d'un utilisateur, offrant ceux qui ont obtenu le plus de réponses dans les goûts ou les commentaires comme "points forts". Les utilisateurs de Facebook peuvent ensuite reconstituer un album de l'année écoulée et vivre une nostalgie instantanée.
Cette année, pour aller encore plus loin, Facebook a sélectionné automatiquement une photo particulièrement engageante à présenter aux utilisateurs, sous la bannière : « Voici à quoi ressemblait votre année ! Pour de nombreux utilisateurs, cela aura été un souvenir heureux, comme une remise de diplôme, un mariage ou la naissance d'un enfant.
Mais pour certains utilisateurs, l'algorithme a fait remonter à la surface des souvenirs douloureux.
Le concepteur Web Eric Meyer a écrit sur son blog que Facebook lui avait montré une photo de sa fille, Rebecca, décédée en 2014.
« Oui, mon année ressemblait à ça. Assez vrai. Mon année ressemblait au visage désormais absent de ma petite fille. Ce n'était toujours pas gentil de me le rappeler avec tant de force », [il a écrit] (http://meyerweb.com/eric/thinkts/2014/12/24/inadvertent-algorithmic-cruelty/) dans un article intitulé « Inadvertent Algorithmic Cruelty » .
« Et je sais, bien sûr, que ce n'est pas une agression délibérée. Cette cruauté algorithmique par inadvertance est le résultat d'un code qui fonctionne dans l'écrasante majorité des cas, rappelant aux gens la génialité de leurs années, leur montrant des selfies lors d'une fête ou des becs de baleines depuis des voiliers ou la marina devant leur maison de vacances.
Dans un article de suivi, Meyer a déclaré que le chef de produit de Year in Review, Jonathan Gheller, s'était personnellement excusé auprès de lui pour la bévue. [Le Washington Post a déclaré](http://www.washingtonpost.com/blogs/the-switch/wp/2014/12/26/facebooks-year-in-review-app-swings-from-merely-annoying-to -tragique/) Gheller a décrit l'application comme "géniale pour beaucoup de gens, mais clairement dans ce cas, nous lui avons apporté [Meyer] du chagrin plutôt que de la joie... Nous pouvons faire mieux - je suis très reconnaissant qu'il ait pris le temps de son chagrin pour écrire le billet de blog.
La fonctionnalité a déjà été peaufinée suite aux retours : elle terminait initialement le diaporama par les mots « Ça a été une super année ! Merci d'en faire parti." Il utilise désormais le langage plus neutre « A l'année prochaine !
L'écrivaine Julieanne Smolinski a partagé une autre histoire: l'année de son ex-petit ami en revue, qui a encadré une photo de sa maison en feu.
Et de nombreux autres utilisateurs ont vécu des expériences similaires :
Je suis tellement content que Facebook ait fait de mon image "Year in Review" une photo de mon chien maintenant mort. Je voulais totalement sangloter de façon incontrôlable cette veille de Noël.
— Sarah-Jane (@isloveSJ) 24 décembre 2014
La "révision de l'année" de Facebook est plutôt horrible car elle a choisi 2 photos de mes chiens qui sont morts cette année et utilise des éléments de conception graphique médiocres.
— Travis Louie (@travislouie) 27 décembre 2014
Je ne partagerai pas ma revue de l'année sur Facebook, qui "met en évidence" un message sur la mort d'un ami en mai malgré des mots comme "tué" et "jour triste"
— Andrew Katz (@katz) 29 décembre 2014
Quant à Meyer, il suggère deux choses que Facebook, et des entreprises comme elle, peuvent faire pour éviter ce genre de cruauté par inadvertance. "Tout d'abord, ne préremplissez pas une image tant que vous n'êtes pas sûr que l'utilisateur souhaite réellement voir des images de son année. Et deuxièmement, au lieu de pousser l'application vers les gens, demandez-leur peut-être s'ils aimeraient essayer un aperçu - juste un simple oui ou non. S'ils disent non, demandez-leur s'ils veulent qu'on leur redemande plus tard, ou plus jamais. Et puis, bien sûr, honorez leurs choix.
"Il n'est peut-être pas possible de prédétecter de manière fiable si une personne veut voir son année en revue, mais il n'est pas du tout difficile de demander poliment - avec empathie - si c'est quelque chose qu'elle veut. C'est un problème facile à résoudre. Si l'application avait été conçue avec les pires scénarios à l'esprit, elle l'aurait probablement été.