Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 2140

Incidents associés

Incident 3661 Rapport
Suicide Clips Evaded TikTok's Automated Moderation in Coordinated Attack

Loading...
Le clip de suicide de TikTok qui a traumatisé les enfants était une « attaque complotée sur le dark web »
the-sun.com · 2020

** TikTok dit qu'une vidéo horrible d'un homme se suicidant qui est devenue virale sur sa plate-forme a été délibérément diffusée par un groupe de malades travaillant ensemble. **

La société a trouvé des preuves d'une "attaque coordonnée" lorsqu'elle a enquêté sur la raison pour laquelle la vidéo apparaissait soudainement sur l'application populaire de partage de courtes vidéos, a déclaré mardi un dirigeant de TikTok à une commission parlementaire britannique.

TikTok s'est précipité plus tôt ce mois-ci pour supprimer des clips de l'homme se tirant une balle dans la tête, ce qui, selon les parents, a laissé leurs enfants "traumatisés".

L'incident pénible a soulevé des inquiétudes quant à la capacité de la plate-forme à empêcher les contenus préjudiciables d'atteindre ses utilisateurs, dont beaucoup sont des adolescents.

Theo Bertram, directeur européen des politiques publiques de TikTok, a déclaré qu'il y avait eu une énorme augmentation du nombre de clips téléchargés sur TikTok environ une semaine après la diffusion en direct de la vidéo originale sur Facebook.

"Il y a des preuves d'une attaque coordonnée", a déclaré Bertrand.

"Grâce à nos enquêtes, nous avons appris que des groupes opérant sur le dark web prévoyaient de piller les plateformes de médias sociaux, y compris TikTok, afin de diffuser la vidéo sur Internet.

"Ce que nous avons vu, c'est un groupe d'utilisateurs qui tentaient à plusieurs reprises de télécharger la vidéo sur notre plate-forme."

Le dark web est une partie d'Internet accessible uniquement via un logiciel fournissant l'anonymat.

Les utilisateurs "le combinaient, le modifiaient et le coupaient de différentes manières", puis créaient de nouveaux comptes pour aider à le diffuser, a-t-il déclaré.

Les utilisateurs de TikTok consultent généralement leur propre flux ou utilisent des hashtags pour trouver des vidéos.

Ces utilisateurs cliquaient sur les profils de compte, anticipant apparemment qu'ils publieraient le clip de suicide, ce qui est une façon inhabituelle de trouver des vidéos, a déclaré Bertram. Il a donné quelques autres détails.

La société a écrit lundi à neuf autres plateformes technologiques pour leur proposer de s'avertir mutuellement du contenu violent et graphique de leurs propres services.

Les commentaires de Bertram sont intervenus alors que TikTok a déclaré dans son dernier rapport sur la transparence qu'il avait supprimé 104,5 millions de vidéos pour avoir enfreint ses directives ou ses conditions de service au cours des six premiers mois de l'année.

C'est moins de 1 % du nombre total de vidéos mises en ligne pendant cette période.

Homme « bienveillant » Ronnie McNutt, 33 ans, a diffusé sa mort tragique depuis son domicile le mois dernier lors d'un live-stream sur Facebook qui a été rapidement supprimé.

Cependant, les internautes malades ont continué à télécharger des versions du [clip horrible] (https://www.the-sun.com/news/1437042/ronnie-mcnutt-who-facebook-tiktok-video/) sur diverses applications et sites Web jours après le stream du 31 août.

Les rapports de l'époque suggéraient que la vidéo était apparue sur la page d'accueil des tendances "For You" de TikTok.

Cela signifie qu'il aurait pu être vu par des millions de personnes.

Dans certains cas, la partie la plus horrible de la vidéo était cachée dans des TikToks plus anodins.

De nombreux utilisateurs de l'application horrifiés ont déclaré avoir vu les images par inadvertance et ont averti les autres de se méfier.

Écrivant sur Facebook, l'un d'eux a déclaré: "Tellement horrible vole haut Ronnie.

TOUTES LES 90 minutes au Royaume-Uni, une vie est perdue par suicide.

Il ne fait pas de discrimination, touchant la vie des gens dans tous les coins de la société - des sans-abri et des chômeurs aux constructeurs et aux médecins, aux stars de la réalité et aux footballeurs.

C'est le plus grand tueur de personnes de moins de 35 ans, plus meurtrier que le cancer et les accidents de voiture.

Et les hommes sont trois fois plus susceptibles de se suicider que les femmes.

Pourtant, on en parle rarement, un tabou qui menace de continuer son saccage meurtrier à moins que nous nous arrêtions tous et que nous le remarquions, maintenant.

C'est pourquoi The Sun a lancé la campagne You're Not Alone.

L'objectif est qu'en partageant des conseils pratiques, en sensibilisant et en éliminant les obstacles auxquels les gens sont confrontés lorsqu'ils parlent de leur santé mentale, nous puissions tous faire notre part pour aider à sauver des vies.

Faisons le vœu de demander de l'aide quand nous en avons besoin et écoutons les autres... Vous n'êtes pas seul.

Si vous, ou quelqu'un que vous connaissez, avez besoin d'aide pour faire face à des problèmes de santé mentale, les organismes suivants vous offrent leur soutien :

"J'aimerais pouvoir ne pas voir la vidéo mais je ne peux malheureusement pas et malheureusement c'est en permanence dans ma tête et celle de ma fille, elle est tellement traumatisée par la vidéo qu'elle a accidentellement cliqué sur un lien sur Tik Tok."

Un utilisateur de Twitter a déclaré: "Ma fille de 15 ans a reçu une vidéo de Ronnie Mcnutt se suicidant sur un livestream Facebook.

"Je déteste qu'elle l'ait regardé. Mes prières vont à sa famille et à ses amis. RIP RONNIE #SuicidePrevention."

Un autre a ajouté : "Mon fils pré-adolescent vient de me montrer la vidéo de Ronnie Mcnutt sur YouTube.

"Veuillez commencer à interdire tout contenu connexe."

TikTok a supprimé les versions du clip au fur et à mesure de leur téléchargement et a commencé à interdire quiconque le partageait.

Les patrons de TikTok interdisent à quiconque de le re-télécharger.

Un porte-parole de TikTok a déclaré: "Dimanche soir, des clips d'un suicide qui avaient été diffusés en direct sur Facebook ont circulé sur d'autres plateformes, dont TikTok.

"Nos systèmes ont automatiquement détecté et signalé ces clips pour avoir enfreint nos politiques contre les contenus qui affichent, louent, glorifient ou encouragent le suicide.

"Nous interdisons les comptes qui tentent à plusieurs reprises de télécharger des clips, et nous apprécions les membres de notre communauté qui ont signalé du contenu et mis en garde les autres contre le visionnage, l'engagement ou le partage de telles vidéos sur n'importe quelle plate-forme par respect pour la personne et sa famille.

"Si quelqu'un dans notre communauté est aux prises avec des pensées suicidaires ou s'inquiète pour quelqu'un qui l'est, nous l'encourageons à demander de l'aide, et nous fournissons un accès aux lignes d'assistance directement depuis notre application et dans notre centre de sécurité."

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd