Incidents associés
Mise à jour (18/09/24) : Après la publication de ce rapport, TikTok a supprimé au moins un compte que nous avons identifié comme publiant des discours d’Hitler en anglais apparemment générés par l’IA. Malgré cette suppression, le contenu de ces discours continue de circuler sur la plateforme. Après la publication, Media Matters a identifié un autre audio de Hitler de ce type, qui a été utilisé au moins 273 fois.
Des clips audio d’Hitler prononçant des discours en anglais, qui semblent être générés par l’IA, ont proliféré sur TikTok, gagnant des millions de vues. Certains utilisateurs ont fait la promotion et l’éloge de ces audios, ce qui constitue une violation apparente des directives communautaires de TikTok.
Bien que certains de ces audios, qui sont souvent mal traduits et réglés sur des rythmes instrumentaux lents et réverbérés, aient été supprimés, Media Matters a identifié des comptes dédiés au téléchargement de ce contenu. Au moins un de ces comptes est toujours en ligne et publie régulièrement.
Les directives communautaires de la plateforme interdisent de « promouvoir (y compris tout éloge, célébration ou partage de manifestes) ou de fournir un soutien matériel à… des individus qui provoquent des violences en série ou de masse, ou qui promeuvent des idéologies haineuses ». La diffusion d’extraits de discours d’Hitler semble enfreindre cette politique.
Media Matters a identifié de nombreuses vidéos contenant ces discours d’Hitler en anglais publiées dès le 7 avril 2024. Cependant, depuis début septembre, les vidéos contenant ces audios prolifèrent sur la plateforme. TikTok a depuis supprimé certaines des vidéos identifiées par Media Matters, mais seulement après que certaines aient été visionnées des centaines de milliers, voire plus d’un million de fois.
Une vidéo, qui avait recueilli environ 120 000 mentions « J’aime » et plus d’un million de vues avant d’être supprimée, présentait un extrait d’un discours prononcé par Hitler à l’occasion du 19e anniversaire du putsch de la brasserie (un coup d’État manqué du parti nazi en novembre 1923) et montrait une image d’Hitler debout, le dos tourné à la caméra, avec le texte : « Écoutez simplement. »
L’extrait du discours – qui semble légèrement différent d’une traduction publiée par le Jewish Virtual Library Project – est superposé sur un rythme instrumental lent et suggère qu’Hitler ne voulait pas passer à l’offensive pendant la Seconde Guerre mondiale, qu’il a essayé de sauver des femmes et des enfants et qu’il a attendu de n’avoir plus le choix.
Si certains utilisateurs de TikTok ont exprimé leur scepticisme dans les commentaires sur cette représentation d’Hitler, d’autres ont adhéré à ce fantasme. Certains utilisateurs ont écrit : « C’était un héros », « Les vainqueurs écrivent l’histoire », « Le grand peintre » et « Peut-être qu’il n’est PAS le méchant ». (« Le peintre » est probablement une référence à la carrière artistique ratée du leader nazi.)
Pendant que Media Matters regardait cette vidéo, la fonction de recherche de TikTok a suggéré la recherche « le discours anglais du peintre », indiquant que la plateforme réduisait les difficultés pour les utilisateurs à trouver d’autres discours d’Hitler.
Une autre vidéo utilisant le même son – qui a depuis été retiré – présentait des images de falaises au bord de l’eau et les hashtags « true », « nature », « europe » et « 1161 » (apparemment un sifflet de droite pour Anti-Anti Fascist Action ou AAFA).
La vidéo avait au moins 22 700 mentions J'aime et plus de 270 000 vues avant d'être supprimée. Certains utilisateurs ont commenté : « AH était un homme bon et gentil », « maintenant je sais pourquoi ils n'ont pas traduit ça avant » et « cela a changé mon opinion sur lui ».
Certains utilisateurs de TikTok n'ont pas tardé à transformer cet audio en un mème qui semblait se moquer d'Hitler pour avoir feint l'innocence. Par exemple, dans une vidéo avec 2,4 millions de vues, un utilisateur fait du playback sur le discours d'Hitler généré par l'IA avec le texte à l'écran, « quand j'ai fait caca dans l'urinoir en 3e année. » Dans une vidéo avec plus de 520 000 vues, un utilisateur portant un équipement militaire complet fait du playback sur le discours d'Hitler tandis que le texte à l'écran dit « Quand il y a du bœuf dans le GC et que tu es impliqué. » Cet audio a été utilisé au moins 251 fois avant sa suppression.
Un autre discours supposé d’Hitler portait sur le déclin culturel ; Hitler a parlé de ce sujet, mais Media Matters n’a pas pu vérifier l’exactitude de la traduction.
Les utilisateurs ont également rapidement transformé cet audio en mème. Une de ces vidéos, avec 197 400 vues, compare « les meubles que mes grands-parents m’ont laissés avec ceux que je laisse à mes petits-enfants » avec la légende « La préservation est une nécessité ».
D'autres utilisateurs ont fait un playback sur le discours d'Hitler généré par l'IA avec le texte à l'écran indiquant « pov : génération alpha en 2035 quand les toilettes de Skibiti sortent en tant que bisexuelles et que le bébé Gronk fait une overdose de gaz galactique 2.0 », « POV : un gars vient de me demander si je voulais voir un film Marvel/DC », et « pov : tu es resté à parler à ce mec qui devient politique après une ligne [de cocaïne]. »
Un troisième audio d'Hitler apparemment généré par l'IA sur TikTok présentait un extrait d'un discours qu'il avait prononcé en janvier 1939, également superposé sur un rythme instrumental lent. Avant sa suppression, cet audio a été utilisé au moins 55 fois, certaines des vidéos ayant été visionnées des centaines de milliers de fois.
Une vidéo utilisant cet audio avec près de 500 000 vues et plus de 64 000 mentions « nommez un personnage que personne ne peut vous faire détester », puis montre un aperçu d'Hitler. Bien que le son ait été supprimé, cette vidéo était toujours en ligne au moment de la rédaction de cet article.
Une autre vidéo, avec 394 000 vues, présentait ce qui ressemblait à une image générée par l'IA d'une fille blonde et blanche portant un t-shirt Union Jack debout au milieu d'un bus et pleurant entourée de personnes non blanches riantes portant le hijab et le taqiyah. Le commentaire ayant reçu le plus de likes disait : « Nous avons besoin du peintre. »
Une autre vidéo, avec plus de 650 000 vues et 90 000 mentions « J’aime », utilisait cet audio avec des photos de deux bols de glace, l’un avec un mélange de chocolat et de vanille et l’autre avec juste de la vanille, ce qui semblait insinuer un mépris pour l’intégration raciale.
Media Matters a également identifié plusieurs comptes dédiés à la publication de ces audios d’Hitler.
Un compte avec 20 500 abonnés et plus de 3,8 millions de vues cumulées sur 12 vidéos publie des vidéos avec ces discours d’Hitler, une silhouette du meurtrier de masse allemand et le texte « Grandir, c’est réaliser qui était vraiment le méchant. »
Une vidéo explicitement antisémite [https://www.mediamatters.org/media/4023854], accusant une « petite clique internationale sans racines », « chez elle nulle part et partout, et n’ayant nulle part un sol sur lequel elle a grandi », de « monter les gens les uns contre les autres », a été vue plus de 1,6 million de fois. L’extrait semble provenir d’un discours prononcé par Hitler à l’usine Siemens-Schuckert à Berlin en 1933. Au moment de la rédaction de cet article, ce compte était toujours en ligne.
Media Matters a identifié un autre compte apparemment dédié à la publication de ces audios de discours d'Hitler reconstitués qui a été supprimé par TikTok. La vidéo la plus populaire sur le compte, avec plus de 87 000 vues, était un extrait en anglais du discours d’Hitler de juillet 1940 « Mon dernier appel à la Grande-Bretagne ».
Alors que l’IA devient de plus en plus populaire pour la génération de contenu, de nouvelles formes de désinformation qui promeuvent des idéologies haineuses et déforment les faits historiques vont suivre. Les plateformes de médias sociaux doivent être conscientes que cette technologie est utilisée pour causer du tort et prendre des mesures proactives pour l’empêcher de proliférer sur leurs plateformes.