Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 2052

Incidents associés

Incident 2863 Rapports
TikTok’s "For You" Allegedly Pushed Fatal “Blackout” Challenge Videos to Two Young Girls

Les parents poursuivent TikTok, disant que des enfants sont morts après avoir visionné le "Blackout Challenge"
nytimes.com · 2022

Les parents de deux filles qui ont déclaré que leurs enfants étaient décédés à la suite d'un "défi de panne d'électricité" sur TikTok poursuivent l'entreprise, affirmant que son algorithme a intentionnellement servi aux enfants un contenu dangereux qui a conduit à leur mort.

Les filles avaient 8 et 9 ans lorsqu'elles sont décédées l'année dernière après avoir visionné le défi, qui a encouragé les utilisateurs à s'étouffer jusqu'à ce qu'ils s'évanouissent, selon le procès, qui a été déposé jeudi devant la Cour supérieure du comté de Los Angeles.

La poursuite affirme que TikTok savait ou aurait dû savoir que son produit était « addictif », qu'il dirigeait les enfants vers des contenus préjudiciables et qu'il n'a pas pris de mesures significatives pour arrêter ces vidéos ou pour en avertir les enfants et les parents.

La plainte cite en particulier la page "Pour vous" de TikTok, qui, selon la plainte, montre un flux de vidéos sélectionnées par un algorithme développé par TikTok qui est basé sur la démographie, les "j'aime" et l'activité antérieure d'un utilisateur sur l'application. La poursuite demande des dommages-intérêts non spécifiés.

"TikTok doit être tenu responsable d'avoir poussé du contenu mortel à ces deux jeunes filles", a déclaré Matthew P. Bergman, avocat fondateur du Social Media Victims Law Center, un cabinet d'avocats privé créé en novembre pour tenir les entreprises de médias sociaux responsables de nuire aux enfants. .

Une porte-parole de TikTok a déclaré que la société ne ferait aucun commentaire sur la poursuite des litiges. Mais la porte-parole a fait référence à une déclaration de décembre, lorsque le magazine People a rapporté qu'une mère de Pennsylvanie a déclaré que sa fille de 10 ans était décédée en tentant le défi de la panne d'électricité.

"Ce" défi "perturbant, que les gens semblent connaître de sources autres que TikTok, est bien antérieur à notre plate-forme et n'a jamais été une tendance TikTok", a déclaré le communiqué, lié à un [rapport fédéral] (https://www .cdc.gov/mmwr/preview/mmwrhtml/mm5706a1.htm) sur les décès dus à un "jeu d'étouffement" de 1995 à 2007. "Nous restons vigilants dans notre engagement envers la sécurité des utilisateurs et supprimerions immédiatement le contenu connexe s'il était trouvé. Nos plus sincères condoléances vont à la famille pour leur perte tragique. »

Les sites de médias sociaux comme TikTok promeuvent le contenu en fonction des préférences de l'utilisateur, a déclaré le Dr Lois Lee, membre du Conseil de l'American Academy of Pediatrics sur la prévention des blessures, de la violence et des poisons. Sans contrôle parental, les enfants peuvent être exposés à une gamme de contenus, y compris des vidéos qu'ils peuvent ne pas comprendre, a-t-elle déclaré.

L'académie recommande aux parents de surveiller l'utilisation des médias sociaux par leurs enfants et de limiter autant que possible le temps d'écran. Lorsque les enfants voient de nombreux "j'aime" sur une vidéo de défi, a déclaré le Dr Lee, ils peuvent penser qu'il est sûr ou amusant d'essayer, sans comprendre les conséquences.

"Les enfants d'âge scolaire n'ont pas les connaissances ou la perspicacité nécessaires pour se rendre compte que ce sont des choses dangereuses à faire", a-t-elle déclaré.

L'une des filles nommées dans le procès, Lalani Erika Walton, 8 ans, de Temple, Texas, a été décrite dans le procès comme une enfant douce et extravertie qui aimait se déguiser en princesse et jouer avec du maquillage. Elle voulait être une rappeuse célèbre comme Cardi B.

Elle a eu son premier téléphone portable le jour de son 8e anniversaire le 23 avril 2021 et est rapidement devenue "accro" à TikTok, où elle a posté des vidéos d'elle-même en train de chanter et de danser dans l'espoir de devenir "TikTok célèbre", indique le costume.

Après que Lalani ait été grièvement blessée dans un accident de voiture dans lequel l'un de ses demi-frères est décédé, elle est allée vivre avec sa belle-mère. À l'insu de sa mère ou de sa belle-mère, l'algorithme de TikTok a "dirigé" Lalani en juillet 2021 vers le défi de la panne d'électricité, selon le procès.

Lalani avait des ecchymoses au cou le 13 juillet 2021 et a dit à sa famille qu'elle était tombée et s'était cognée sur le cadre de son lit, indique le costume. Peu de temps après, elle a passé une partie, sinon la majeure partie, d'un voyage en voiture de 20 heures avec sa belle-mère, assise sur le siège arrière, regardant le défi de la panne d'électricité, indique le costume.

Le 15 juillet 2021, Lalani a été retrouvée avec une corde autour du cou, indique le costume.

Après sa mort, la police a pris le téléphone et la tablette de Lalani et a dit à sa belle-mère que "Lalani ne s'était pas suicidée", indique le procès. Un policier a montré les vidéos du défi de la panne d'électricité à la belle-mère et a déclaré que Lalani avait regardé la vidéo en boucle et avait tenté le défi elle-même, indique le costume.

La deuxième fille nommée dans le costume, Arriani Jaileen Arroyo, 9 ans, de Milwaukee, aimait jouer au basket et au kickball et faire du vélo.

Elle a reçu un téléphone à l'âge de 7 ans et a téléchargé TikTok, l'utilisant pour regarder et publier des vidéos de danse et de chant. Elle est devenue "accro" au produit, dit le costume, et a commencé à essayer des "défis". Parce que les «défis» dont elle parlait impliquaient de boire et de manger, ses parents les croyaient inoffensifs, indique le procès.

En janvier 2021, Arriani a parlé à sa mère d'une fille en Italie qui est décédée en tentant le défi de la panne d'électricité, a déclaré M. Bergman. La mère d'Arriani lui a dit qu'elle ne devrait jamais tenter un tel défi, et Arriani a indiqué qu'elle comprenait, dit le costume.

Le 26 février 2021, Arriani a été retrouvée avec une laisse autour du cou, indique le costume. M. Bergman a déclaré qu'Arriani avait regardé un défi de panne d'électricité sur TikTok. Elle est décédée ce jour-là après avoir été retirée de l'assistance respiratoire, indique le costume.

La plainte cite plusieurs autres enfants – dont un de 12 ans dans l'Oklahoma et un de 14 ans en Australie – qui, selon elle, sont morts en tentant le défi de la panne d'électricité.

Des défis dangereux, comme celui qui impliquait de mordre ou d'avaler des capsules Tide, circulent sur Internet depuis des années . Le costume mentionne des défis qui impliquaient de consommer de grandes quantités de Benadryl ou de sortir d'une voiture en mouvement pour danser dans la rue.

"Je ne sais pas s'ils sont plus dangereux qu'ils ne l'ont jamais été", a déclaré Zach Sweat, rédacteur en chef de Know Your Meme, une base de données Internet qui comprend des mèmes et des défis en ligne. "Je pense que l'accessibilité de ces types de choses et la façon dont ces algorithmes fonctionnent le diffusent à plus de gens."

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • a9df9cf