Instagram a utilisé l'image d'un utilisateur qui comprenait le texte "Je vais te violer avant de te tuer, sale pute!" pour annoncer son service sur Facebook, le dernier exemple d'algorithmes de médias sociaux stimulant le contenu offensant.
La journaliste du Guardian Olivia Solon a récemment découvert qu'Instagram, qui appartient à Facebook, avait fait une publicité à partir d'une photo qu'elle avait publiée d'une menace violente qu'elle avait reçue dans un e-mail, qui disait "Olivia, putain de salope !!!!!!!" et "Je vais te violer".
Instagram a sélectionné la capture d'écran, qu'elle a publiée il y a près d'un an, pour annoncer la plateforme de partage de photos à la sœur de Solon cette semaine, avec le message "Voir la photo d'Olivia Solon et les publications d'amis sur Instagram".
L'annonce a fait surface à un moment où Facebook fait l'objet d'un examen approfondi des défaillances éthiques de ses algorithmes et outils publicitaires. La semaine dernière, ProPublica a signalé que Facebook [permettait aux annonceurs de cibler les utilisateurs](https://www .theguardian.com/technology/2017/sep/14/facebook-advertising-jew-hater-antisemitism) intéressés par le sujet de « Jew hater » et « How to burn Jews » – catégories que le site de médias sociaux avait automatiquement créées. Les journalistes ont pu payer 30 dollars pour cibler les « publications promues » auprès des groupes antisémites.
D'autres ont rapidement découvert qu'il y avait une gamme de termes sectaires et désobligeants que Facebook autorisait pour le ciblage publicitaire et que Google et [Twitter](http://www.thedailybeast .com/twitter-lets-you-target-millions-of-users-who-may-like-the-n-word) avait des problèmes similaires.
La directrice de l'exploitation de Facebook, Sheryl Sandberg, a émis un mea culpa mercredi et a déclaré que l'entreprise [modifiait ses politiques en conséquence](https://www .theguardian.com/technology/2017/sep/20/facebook-jew-haters-ad-targeting-sheryl-sandberg). Facebook a désactivé le système de ciblage qui a créé les catégories offensives, et Sandberg a déclaré que le site n'autoriserait que les options de ciblage examinées par les humains à l'avenir.
On ne sait pas pourquoi Instagram a choisi de mettre en évidence le courrier haineux de Solon à ses amis sur Facebook. Lorsqu'elle a posté la capture d'écran l'année dernière, elle a écrit : « Ceci est un e-mail que j'ai reçu cet après-midi. Malheureusement, cela n'est que trop courant pour les femmes sur Internet. Je suis sûr que ce n'est qu'un idiot plutôt qu'une menace crédible, mais c'est quand même assez ignoble.
La photo a reçu trois likes et plus d'une dizaine de commentaires sympathiques. Il est possible que l'algorithme d'Instagram l'ait considéré comme une publication "engageante" en raison du nombre de réponses. Mais étant donné la technologie existante qui peut analyser les mots intégrés dans les images, il n'est pas clair si Instagram a mis en place des systèmes qui détecteraient le texte violent et abusif et le signaleraient comme un choix inapproprié pour une publicité.
Un porte-parole d'Instagram s'est excusé et a affirmé que l'image n'avait pas été utilisée dans une "promotion payante". "Nous sommes désolés que cela se soit produit – ce n'est pas l'expérience que nous voulons que quelqu'un ait", indique le communiqué. "Cette publication de notification a été publiée dans le cadre d'un effort visant à encourager l'engagement sur Instagram. Les messages sont généralement reçus par un petit pourcentage des amis Facebook d'une personne.
Le porte-parole a déclaré que ces types de messages étaient conçus pour motiver les personnes qui ne sont pas sur Instagram ou qui n'étaient pas récemment sur le site à visiter la plate-forme en leur montrant le contenu de leurs amis. La société n'a pas répondu aux questions sur l'étendue du partage de la publication, mais a déclaré qu'elle aurait fait surface auprès de certains des amis Facebook de Solon.
Les algorithmes de Facebook ont longtemps été confrontés à des réactions négatives pour avoir causé par inadvertance de la douleur et du mal à ses utilisateurs. En 2014, l'entreprise a été forcée de s'excuser pour son "Année in Review », qui ont créé une série automatisée de messages mettant en évidence des souvenirs blessants d'êtres chers décédés et des incidents tragiques – des messages qui ont vraisemblablement eu beaucoup d'« engagement ». La fonctionnalité de nostalgie "On This Day" de la société, qui refait surface d'anciens messages, a fait l'objet de [critiques similaires] (https://www.theverge.com/2015/4/2/8315897/facebook-on-this-day-nostalgia- app-ramenant-des-souvenirs-douloureux).
Facebook a également admis ce mois-ci qu'une opération d'influence probablement basée en Russie acheté pour 100 000 $ de publicités pour promouvoir des messages politiques qui divisent. Mercredi, 20 sénateurs et représentants démocrates ont exhorté la Commission électorale fédérale à "élaborer de nouvelles directives pour les plateformes publicitaires sur la manière dont pour empêcher les dépenses étrangères illicites lors des élections américaines ».
La semaine dernière, Facebook a également été ridiculisé après avoir envoyé à un journaliste de ProPublica derrière l’enquête sur les « juifs haineux » un e-mail automatisé suggérant qu’elle achète une publicité pour promouvoir son histoire qui exposait les pratiques publicitaires embarrassantes de Facebook.