Incidents associés
Assise à la barre des témoins d'une petite salle d'audience de Londres cette semaine, une dirigeante de Meta a été confrontée à une question inconfortable : son entreprise a-t-elle contribué au suicide d'une jeune de 14 ans nommée Molly Russell ?
Des vidéos et des images de suicide, d'automutilation et de contenus dépressifs que l'adolescente a visionnés dans les mois précédant sa mort en novembre 2017 sont apparues sur un écran dans la salle d'audience. L'exécutif a lu un message que Molly avait aimé ou enregistré sur Instagram, et a entendu comment il avait été copié presque textuellement dans une note remplie de mots de dégoût de soi trouvés plus tard par ses parents.
"C'est Instagram qui donne littéralement des idées à Molly", a déclaré avec colère Oliver Sanders, un avocat représentant la famille, pendant un moment de l'échange.
Penchée en avant dans le fauteuil des témoins, la dirigeante, Elizabeth Lagone, qui dirige la politique de santé et de bien-être de l'entreprise, a répondu: "Je ne peux pas parler de ce qui se passait dans l'esprit de Molly."
Le coroner supervisant l'affaire, qui en Grande-Bretagne est une figure de juge avec une large autorité pour enquêter et déterminer officiellement la cause du décès d'une personne, était beaucoup moins circonspect. Vendredi, il a statué qu'Instagram et d'autres plateformes de médias sociaux avaient contribué à sa mort – peut-être la première fois que des sociétés Internet sont légalement accusées d'un suicide.
"Molly Rose Russell est décédée d'un acte d'automutilation alors qu'elle souffrait de dépression et des effets négatifs du contenu en ligne", a déclaré le coroner, Andrew Walker. Plutôt que de classer officiellement sa mort comme un suicide, il a déclaré qu'Internet "affectait sa santé mentale de manière négative et contribuait à sa mort de manière plus que minime".
Le jugement impartial et déclaratif a conclu une bataille juridique qui a opposé la famille Russell à certaines des plus grandes entreprises de la Silicon Valley. Plongeant dans les pires craintes de nombreux parents concernant l'influence d'Internet et des médias sociaux sur leurs enfants, l'affaire s'est répercutée en Grande-Bretagne et au-delà. Une foule de caméras de télévision et de photographes s'est rassemblée devant la salle d'audience lorsque la décision a été annoncée.
Des milliers d'images, de vidéos et d'autres contenus de médias sociaux provenant des comptes de Molly ont été révélés au cours de l'enquête, l'une des plus importantes publications publiques de ce type. Cela a fourni le genre de détails que les chercheurs qui étudient les effets des médias sociaux sur la santé mentale se plaignent depuis longtemps que des plateformes comme Meta, qui possède Facebook et Instagram, retiennent pour des raisons de confidentialité et d'éthique.
L'utilisation des médias sociaux par Molly comprenait du matériel si bouleversant qu'un employé de la salle d'audience est sorti de la salle pour éviter de visionner une série de vidéos Instagram illustrant le suicide. Un psychologue pour enfants qui a été appelé comme témoin expert a déclaré que le matériel était si « dérangeant » et « bouleversant » qu'il en a perdu le sommeil pendant des semaines.
Les entreprises n'encourent aucune sanction financière ou autre en raison de la décision. L'affaire était une enquête du coroner visant à déterminer la cause du décès, et non un procès criminel ou civil. La famille a déclaré qu'elle avait poursuivi l'affaire comme une forme de justice pour Molly et pour sensibiliser au suicide des jeunes et aux dangers des médias sociaux.
Mais déjà, un projet de loi en partie inspiré par la mort de Molly, pour forcer les entreprises de médias sociaux à adopter de nouvelles protections pour la sécurité des enfants ou risquer de lourdes amendes, est serpentant à travers le Parlement britannique. Instagram et Pinterest ont restreint l'accès à certains contenus sur le suicide et l'automutilation. Et les avocats représentant [des familles américaines] (https://www.nytimes.com/2022/07/06/technology/tiktok-blackout-challenge-deaths.html) qui poursuivent TikTok et Meta pour avoir contribué à la mort de leurs enfants pointent du doigt au résultat comme un nouveau précédent.
"C'était David et Goliath", a déclaré Beeban Kidron, membre de la Chambre des Lords et fondateur de 5Rights, une organisation à but non lucratif qui fait pression pour des lois plus strictes sur la sécurité des enfants en ligne. "La famille Russell s'est battue pendant cinq ans pour amener les entreprises dans un environnement où, sous serment, elles devaient rendre compte de leurs actions."
Meta, qui a déclaré lors de l'enquête qu'il n'avait jamais étudié les effets du contenu Instagram suicidaire et dépressif sur ses plus jeunes utilisateurs, a déclaré dans un communiqué par la suite que ses "pensées vont à la famille Russell" et qu'il était "engagé à faire en sorte qu'Instagram est une expérience positive pour tout le monde, en particulier pour les adolescents.
La famille Russell avait une vie "presque ennuyeuse" dans une banlieue du nord de Londres, a déclaré Ian Russell, le père de Molly, dans une interview en juillet avant l'enquête. Inquiets de l'utilisation de la technologie par leurs trois filles, lui et sa femme, Janet, ont suivi des cours de sécurité en ligne dans leur école et ont essayé de garder un œil sur leurs comptes de médias sociaux. Les téléphones étaient interdits à table.
Molly, comme ses deux sœurs aînées, a obtenu un téléphone de base à 11 ans, lorsque de nombreux enfants britanniques ont commencé à se rendre à l'école de manière indépendante. Elle a reçu un iPhone comme cadeau de 13 ans, peu de temps après avoir créé un compte Instagram avec la permission de ses parents.
Molly, qui aimait l'équitation et la musique pop, a commencé à passer plus de temps dans sa chambre, mais rien n'a sonné l'alarme. M. Russell a déclaré qu'elle avait rarement publié quoi que ce soit publiquement sur les réseaux sociaux, mais il n'était pas rare de la trouver assise sur son lit en train de regarder Netflix sur un iPod Touch tout en envoyant des messages à ses amis sur un autre appareil.
« Elle était adolescente ; cela aurait presque été inquiétant si elle ne l'avait pas fait », a déclaré M. Russell. "Comment vous séparez ces choses du comportement normal et peut-être de quelque chose d'inquiétant, je ne sais vraiment pas si vous le pouvez."
Dans les jours qui ont suivi la mort de Molly, a déclaré M. Russell, la famille a eu du mal à comprendre ce qui n'allait pas. Elle avait été un peu découragée pendant certaines parties de l'année écoulée, mais s'était ragaillardie ces derniers temps. La famille a attribué les sautes d'humeur au comportement normal de l'adolescent.
La veille de sa mort, la famille a regardé ensemble une émission de télé-réalité et Molly a demandé à M. Russell de l'aider pour un projet d'expérience de travail. Elle était enthousiasmée par les billets pour voir "Hamilton" et pour jouer un rôle principal dans une prochaine pièce de théâtre à l'école.
Ce n'est que lorsque M. Russell s'est assis devant l'ordinateur familial que les pièces ont commencé à s'assembler. Après avoir eu accès à son compte Instagram, il a trouvé un dossier intitulé "Choses sans importance" avec des dizaines d'images et de citations troublantes. « Qui aimerait une fille suicidaire ? l'un a dit.
Il a eu le souffle coupé en examinant la boîte de réception de Molly, où il a trouvé une note de Pinterest qui est arrivée environ deux semaines après sa mort. "Depression Pins que vous aimerez peut-être", disait-il.
En janvier 2019, M. Russell a rendu public l'histoire de Molly. Indigné que sa jeune fille puisse voir si facilement un contenu aussi sombre et convaincu que cela avait joué un rôle dans sa mort, il s'est assis pour une [interview télévisée avec la BBC] (https://www.bbc.co.uk/news/ av/uk-46966009) qui ont fait la une des journaux britanniques.
M. Russell, un réalisateur de télévision, a exhorté le coroner examinant le cas de Molly à aller au-delà de ce qui est souvent un processus stéréotypé et à explorer le rôle des médias sociaux. M. Walker a accepté après avoir vu un échantillon de l'histoire des médias sociaux de Molly.
Cela a abouti à un effort de plusieurs années pour accéder aux données des médias sociaux de Molly. La famille ne connaissait pas le code d'accès de son iPhone, mais la police de Londres a pu le contourner pour extraire 30 000 pages de matériel. Après une longue bataille, Meta a accepté de fournir plus de 16 000 pages de son Instagram, un volume tel qu'il a retardé le début de l'enquête. Merry Varney, une avocate du cabinet d'avocats Leigh Day qui a travaillé sur l'affaire dans le cadre d'un programme d'aide juridique, a déclaré qu'il avait fallu plus de 1 000 heures pour examiner le contenu.
Ce qu'ils ont découvert, c'est que Molly avait vécu une sorte de double vie. Alors qu'elle était une adolescente ordinaire pour sa famille, ses amis et ses professeurs, son existence en ligne était beaucoup plus sombre.
Au cours des six mois précédant la mort de Molly, elle a partagé, aimé ou enregistré 16 300 éléments de contenu sur Instagram. Environ 2 100 de ces messages, soit environ 12 par jour, étaient liés au suicide, à l'automutilation et à la dépression, selon les données que Meta a divulguées à sa famille. De nombreux comptes avec lesquels elle a interagi étaient dédiés au partage uniquement de matériel dépressif et suicidaire, utilisant souvent des hashtags liés à d'autres contenus explicites.
De nombreux messages glorifiaient la lutte intérieure, cachant la contrainte émotionnelle et disant aux autres "Je vais bien". Molly a continué à aimer et à enregistrer des représentations graphiques de suicide et d'automutilation, une fois après 3 heures du matin, selon une chronologie de son utilisation d'Instagram.
"C'est un ghetto du monde en ligne dans lequel une fois que vous y tombez, l'algorithme signifie que vous ne pouvez pas y échapper et continue de recommander plus de contenu", a déclaré M. Russell lors de son témoignage.
Molly n'a pas parlé de ses difficultés avec sa famille, mais elle a cherché du réconfort auprès d'influenceurs en ligne qui publiaient régulièrement des articles sur la tristesse et le suicide. À partir d'un compte Twitter anonyme que sa famille a découvert plus tard, Molly avait contacté au moins un influenceur au sujet de son désespoir – des messages qui n'ont jamais reçu de réponse.
Jud Hoffman, responsable des opérations communautaires chez Pinterest, a déclaré qu'il "regrette profondément" que Molly ait vu du matériel explicite qu'il ne voudrait pas que ses propres enfants voient. "Je suis désolé," dit-il.
Meta a reconnu que Molly avait vu du contenu qui enfreignait ses politiques, mais a défendu ses pratiques dans l'ensemble comme un équilibre entre la liberté d'expression et la sécurité. La société a ajouté de nouvelles protections en 2019, après que la famille a rendu publique l'expérience de Molly, notamment en interdisant les images graphiques d'automutilation telles que la coupure, et en fournissant des liens vers des ressources pour ceux qui regardent du matériel triste ou dépressif.
Mme Lagone, qui a une formation en santé publique et a été embauchée par Meta en 2020, a déclaré que même si elle regrettait que Molly ait vu un contenu aussi pénible, il était important de donner aux gens un espace pour exprimer ouvertement leur tristesse comme « un appel à l'aide ».
Après l'annonce de la décision finale dans l'affaire vendredi, M. Russell ruminait toujours un commentaire fait par Mme Lagone lors de son témoignage selon lequel une partie du matériel consulté par Molly était sans danger.
"Si cette piste démentielle de contenu suceur de vie était sûre", a-t-il dit, "ma fille Molly serait probablement encore en vie."