Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 4191

Incidents associés

Incident 82416 Rapports
Purported Deepfake Allegedly Misattributes Claims to Former Student in Attack on Vice-Presidential Candidate Tim Walz

Loading...
Une attaque virale sur Walz met en scène un ancien élève faisant une fausse déclaration
washingtonpost.com · 2024

Matthew Metro n'a pas reconnu le visage qui est apparu sur l'écran de son téléphone portable lorsqu'il a cliqué sur un lien qu'un ami lui a envoyé par SMS la semaine dernière. Mais après avoir lancé la lecture de la vidéo en ligne, il a été consterné par ce qu'il a vu.

« Je m'appelle Matthew Metro », a déclaré l'homme dans la vidéo, qui a ensuite décrit la vie d'étudiant il y a des décennies dans un lycée du Minnesota où le candidat démocrate à la vice-présidence Tim Walz était professeur. Certains détails - notamment le fait qu'il était à l'école lorsque Walz y travaillait - correspondaient à la biographie du vrai Metro. Mais l'homme dans la vidéo est allé plus loin, en lançant des allégations fabriquées contre Walz, que le vrai Metro a déclaré n'avoir jamais rencontré.

Des millions de personnes ont visionné des publications sur les réseaux sociaux contenant la vidéo depuis sa publication mercredi sur X, anciennement Twitter. Pour certains téléspectateurs, l'utilisation du nom de Metro et de détails biographiques vérifiables a créé une aura de crédibilité autour des fausses allégations. Ce n'est pas le cas pour le vrai Metro, que le Washington Post a localisé à Hilo, à Hawaï.

"Ce n'est évidemment pas moi : les dents sont différentes, les cheveux sont différents, les yeux sont différents, le nez est différent", a déclaré Metro, 45 ans, qui n'a jamais parlé publiquement auparavant. "Je ne sais pas d'où ils sortent ça". Metro a montré au Post son permis de conduire hawaïen pour confirmer son identité.

Metro a déclaré au Post que Walz ne lui avait jamais appris. Il a déclaré qu'il était furieux que son nom et ses informations biographiques soient utilisés pour étayer une fausse accusation sordide - et qu'il pourrait y être associé à jamais en ligne. "C'est une invasion de ma vie privée et de ma vie personnelle", a-t-il déclaré.

La vidéo de quatre minutes, publiée par un mystérieux compte X utilisant faussement le nom de Metro, est l'une des nombreuses diffamations extravagantes contre Walz et les autres candidats qui ont circulé sur les réseaux sociaux ces derniers jours, au cours des dernières semaines de la campagne présidentielle. Bien que X ait finalement ajouté des étiquettes sous la vidéo indiquant que le contenu avait été manipulé, plusieurs versions du clip restent en ligne. Au total, les publications contenant la vidéo ont recueilli au moins 5 millions de vues, selon les données d'engagement publiées par la plateforme.

Dans un environnement politique inondé de fausses déclarations, y compris de vidéos sophistiquées truquées de personnalités éminentes, le canular était inhabituel dans la mesure où il semblait s'appuyer sur des recherches open source pour voler grossièrement l'identité d'un membre du public qui avait un lien historique ténu avec un candidat actuellement sous les feux de la rampe. De plus, l'ancien étudiant semblait avoir été sélectionné parce que des détails personnels sur sa vie réelle - parmi lesquels son orientation sexuelle - figuraient dans la fausse déclaration et pouvaient être considérés comme la corroborant.

Metro a déclaré qu'il avait été contacté après la publication de la vidéo par un assistant principal de Walz. Selon Metro, l'assistant a déclaré que l'équipe de Walz enquêtait et savait déjà qu'il n'était pas la personne présentée dans la vidéo.

Une porte-parole de la campagne Harris-Walz a confirmé la prise de contact.

X n'a pas répondu aux questions envoyées par courrier électronique par le Post.

Le premier exemple de la vidéo que le Post a pu trouver en ligne a été publié peu après midi mercredi par un compte X utilisant le nom de Metro comme nom d'utilisateur et nom d'affichage. Metro a déclaré au Post qu'il n'avait aucun lien avec le compte ; les noms d'utilisateur et d'affichage peuvent être modifiés à tout moment. Le compte a été créé en octobre 2023. Hormis les publications critiques envers Walz, qui ont commencé la semaine dernière, il a principalement partagé du contenu sur les chiens.

La vidéo contenant la fausse allégation contre Walz a attiré peu d'attention jusqu'à plusieurs heures après sa publication, lorsqu'elle a été reconditionnée et partagée par un compte X géré de manière anonyme associé à la théorie du complot QAnon. La vidéo a également été partagée sur Rumble, Truth Social et Gettr --- toutes des plateformes populaires parmi les partisans de Trump --- par des comptes qui, selon les informations contenues dans leurs bios, sont liés à un réseau qui comprend également le compte X.

Les messages laissés à l'opérateur ou aux opérateurs de ces comptes n'ont reçu aucune réponse.

La publication du compte X contenant la vidéo a été visionnée plus de 5,4 millions de fois dans les 22 heures qui ont suivi, les archives montrent, avant d'être supprimée. La vidéo a été partagée par d'autres comptes avec un lectorat important, notamment Juanita Broaddrick, qui a accusé l'ancien président Bill Clinton de l'avoir agressée sexuellement dans les années 1970.

Broaddrick, qui a supprimé sa publication sur la vidéo, n'a pas immédiatement répondu à un message demandant des commentaires.

De nombreux partisans de Trump avec peu d'abonnés ont présenté la publication comme une révélation choc sur la conduite du colistier de la vice-présidente Kamala Harris envers les étudiants lorsqu'il était enseignant, une révélation rendue crédible par l'existence apparemment d'un accusateur nommé qui avait fréquenté une école où Walz enseignait.

D'autres ont fait des recherches sur Metro dans les annuaires scolaires et sur les réseaux sociaux et ont conclu que l'homme dans la vidéo ne ressemblait pas aux photographies du vrai Metro. Certains utilisateurs de X ont rejeté la vidéo comme un « deepfake », citant comme preuve des distorsions visuelles apparentes, notamment autour de la bouche de l'homme.

Plusieurs experts ont déclaré au Post qu'ils pensaient que la vidéo n'était pas un deepfake et qu'elle montrait un vrai homme se faisant passer pour Metro.

Hany Farid, professeur d'informatique et membre du Berkeley Artificial Intelligence Lab, a déclaré que la vidéo était probablement un « faux bon marché ». Contrairement à un deepfake typique, il a noté que le faux Metro - dont la voix est fortement accentuée - ne ressemble pas au vrai.

Farid a déclaré qu'une analyse menée par son équipe avec un outil de détection assistée par ordinateur n'a trouvé aucune preuve d'IA générative, une technologie utilisée pour créer des deepfakes. Il a déclaré que les distorsions apparentes sont en fait des indications d'une vidéo de mauvaise qualité qui a été compressée à partir de sa taille d'origine.

Siwei Lyu, professeur d'informatique et d'ingénierie à l'Université d'État de New York à Buffalo, a déclaré que les analyses de la vidéo par certains de ses étudiants les ont conduits à une conclusion similaire. « Nos algorithmes n'ont trouvé aucune preuve claire montrant que la vidéo a été réalisée ou manipulée avec l'IA », a déclaré Lyu. L'analyse a déterminé qu'il était peu probable que la vidéo ait été créée avec un échange de visage ou une synchronisation labiale, a-t-il déclaré.

Oren Etzioni, le fondateur de True Media, une société d'intelligence artificielle à but non lucratif qui crée un outil populaire de détection de deepfake, a déclaré que l'analyse de son entreprise avait détecté des preuves significatives de manipulation audio. "Je pense que ce qui indique le plus probable, c'est que la vidéo est réelle, mais que l'audio a subi divers types de transformations", a déclaré Etzioni.

Il n'a pas été possible de déterminer qui est l'homme dans la vidéo ou pourquoi il se fait passer pour Metro et fait une fausse allégation contre Walz --- ou qui d'autre, le cas échéant, aurait pu être impliqué.

Metro a déclaré qu'il était né dans le centre de la Pennsylvanie. Sa famille a déménagé dans l'Ohio puis à New York avant d'arriver à Mankato, dans le Minnesota, où ses parents ont pris des emplois à l'Université d'État du Minnesota. À partir de 1994, Metro a déclaré avoir fréquenté le lycée West, que Walz a rejoint en tant que professeur deux ans plus tard.

Dans la vidéo, l'homme se faisant passer pour Metro affirme que Walz l'a peloté et embrassé dans une salle de classe après s'être tourné vers Walz pour obtenir des conseils pendant une période difficile de sa dernière année en 1997. Mais le vrai Metro a déclaré qu'aucune interaction de ce type n'avait eu lieu et que sa dernière année « s'était déroulée comme sur des roulettes ».

Le faux Metro dit dans la vidéo que ses parents étaient en train de divorcer cette année-là et qu'il devait garder sa sexualité secrète. Le vrai Metro, qui est gay, a déclaré au Post que le contraire était vrai. « J'étais complètement sorti du placard au lycée », a-t-il déclaré, ajoutant que ses parents sont toujours mariés et heureux aujourd'hui.

Metro a déclaré qu'il avait été alerté pour la première fois de la vidéo par un vieil ami basé dans le Minnesota. « Je sais que c'est un faux », a-t-il déclaré dans le message texte de la semaine dernière. Metro a déclaré qu'il avait depuis été inondé de messages d'amis et de proches, qui ont tous reconnu qu'il n'était pas la personne dans la vidéo.

Il a déclaré qu'il n'avait « aucune idée » de la raison pour laquelle il avait été ciblé pour être inclus dans la vidéo. Il a émis l'hypothèse que ses comptes inactifs sur Facebook et d'autres plateformes auraient pu être exploités pour des images et des informations sur son parcours et ses intérêts.

En novembre, a-t-il déclaré, il prévoit de voter pour Harris et Walz.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd