Incidents associés
Une enquête de Observer a révélé comment TikTok fait la promotion de contenu misogyne auprès des jeunes alors qu'il prétend l'interdire.
Les vidéos de la personnalité en ligne Andrew Tate, qui a été critiquée par les militants de la violence domestique pour avoir normalisé des opinions extrêmes et dépassées sur les femmes, font partie de celles transmises par l'algorithme aux utilisateurs via la page d'accueil organisée pour vous.
Nous avons mené une expérience pour avoir un aperçu de ce que les jeunes sont montrés sur la plateforme, qui permet aux utilisateurs de s'inscrire dès l'âge de 13 ans.
Pour nous assurer que les résultats ne seraient pas influencés par notre historique de recherche précédent, nous avons créé un nouveau compte TikTok pour un adolescent imaginaire, en utilisant un faux nom et une fausse date de naissance.
Au début, le récit du jeune homme de 18 ans a montré un mélange de matériel comprenant des clips humoristiques, des vidéos de chiens et des discussions sur la santé mentale des hommes.
Mais après avoir regardé des vidéos destinées aux utilisateurs masculins – y compris un clip du podcast Alpha Blokes et un clip d'un TikTokker expliquant comment les hommes « ne parlent pas de leurs sentiments » – l'algorithme a commencé à suggérer plus de contenu qui semblait être adapté aux hommes.
Sans «aimer» ni rechercher de contenu de manière proactive, les suggestions comprenaient des vidéos d'Andrew Tate, dont une provenant d'un compte imitateur utilisant le nom et l'image de Tate sous-titré la «dure réalité des hommes», qui semblait blâmer le féminisme pour rendre les hommes misérables, ajoutant que « la majorité des hommes n'ont pas d'argent, pas de pouvoir, pas de relations sexuelles avec leur femme », et que leur vie « craint ».
Après avoir regardé deux de ses vidéos, on nous en a recommandé d'autres, y compris des clips de lui exprimant des opinions misogynes. La prochaine fois que le compte a été ouvert, les quatre premiers messages étaient de Tate, à partir de quatre comptes différents.
L'algorithme a également suggéré des vidéos du Dr Jordan Peterson, un psychologue canadien connu pour ses opinions de droite ; programmes de coaching pour hommes et vidéos de militants des droits des hommes.
Mais le contenu de la Tate était de loin le plus répandu. Lors de la réouverture de l'application une semaine plus tard, le compte a de nouveau été inondé de contenu Tate, huit des 20 premières vidéos étant de Tate.
Les clips comprenaient une vidéo où il dit que la vie de la plupart des hommes est nulle parce qu'ils n'ont "aucun pouvoir" et "pas de relations sexuelles avec leur femme", et une autre où il décrit sa petite amie comme "très bien entraînée".
Dans un autre, il dit que les personnes qui recherchent un soutien en santé mentale sont "inutiles". Il dit : « Si vous êtes le genre de personne qui a besoin d'une thérapie, vous avez besoin de quelqu'un à qui parler, savez-vous qui vous êtes ? Vous êtes inutile. Parce que dans les réalités les plus dures de ce monde froid, il y a des gens en Syrie dont des familles entières ont été soufflées pour baiser avec une bombe du ciel.
Une autre vidéo recommandée par l'algorithme a ridiculisé les gens pour avoir porté des masques pendant la pandémie, disant qu'ils étaient soit "des idiots, soit des lâches", tout en affirmant qu'en choisissant de ne pas en porter, il a fait preuve "de bravoure et de couilles".
Les experts ont fait part de leurs inquiétudes quant à la diffusion de contenus mettant en vedette Tate sur la plateforme, où des vidéos de lui ont été visionnées 11,6 milliards de fois.
Callum Hood, responsable de la recherche au Center for Countering Digital Hate, a déclaré: "Le danger, c'est qu'il s'agit d'un contenu très accrocheur, et le TikTok L'algorithme en particulier est si agressif qu'il vous suffit de faire une pause de quelques instants avant qu'il ne commence à vous recommander encore et encore un contenu similaire.
TikTok a déclaré: «La misogynie et d'autres idéologies et comportements haineux ne sont pas tolérés sur TikTok, et nous travaillons pour examiner ce contenu et prendre des mesures contre les violations de nos directives. Nous cherchons continuellement à renforcer nos politiques et nos stratégies d'application, notamment en ajoutant davantage de garanties à notre système de recommandation.