Incidents associés
Une nouvelle publicité offensive des sénateurs républicains reprend les propos du sénateur Chuck Schumer concernant la paralysie du gouvernement, mais dans un deepfake IA du chef de la minorité démocrate au Sénat.
La vidéo de 30 secondes (https://x.com/NRSC/status/1979187237720924195), publiée vendredi sur X et YouTube par le Comité sénatorial national républicain, a suscité l'inquiétude de nombreux observateurs, qui ont averti qu'elle franchissait une nouvelle étape dans la politique et qu'elle pourrait déclencher une vague de deepfakes IA.
Légendée sur X « Semaine 3 de la paralysie du gouvernement Schumer : "Chaque jour est meilleur pour nous" », la vidéo montre une version générée par l'IA de Schumer répétant ces mots à plusieurs reprises en souriant. La vidéo se termine par un sourire de Schumer, tandis qu'un narrateur déclare : « La paralysie du gouvernement Schumer aggrave la situation aux États-Unis et les Démocrates adorent ça. »
« Chaque jour est meilleur pour nous », a déclaré Schumer au site politique Punchbowl News (https://punchbowl.news/archive/10925-am/) dans un article du 9 octobre sur le confinement. Il a poursuivi : « C’est parce que nous y avons réfléchi longtemps à l’avance et que nous savions que la santé serait au cœur des préoccupations le 30 septembre, et nous nous y étions préparés… Leur théorie était : nous menacer, nous embobiner, et nous nous soumettrions en un jour ou deux. »
Cependant, l’article original ne contenait que le texte de la déclaration de Schumer, sans vidéo ni audio.
Un communiqué de presse du NRSC annonçant la publicité la décrit comme une « visualisation » du commentaire de Schumer et indique qu'elle a été « créée en partie à l'aide d'un logiciel d'intelligence artificielle et comprend un avertissement relatif à l'IA ».
La fausse vidéo de Schumer comprend un petit filigrane transparent du logo du NRSC et les mots « GÉNÉRÉ PAR L'IA » dans le coin inférieur droit. Sur YouTube, la vidéo comporte une mention supplémentaire « Contenu modifié ou synthétique » étiquette indiquant que « Le son ou les images ont été considérablement modifiés ou générés numériquement ».
« Ce sont les propres mots de Chuck Schumer », a déclaré Joanna Rodriguez, directrice de la communication du NRSC, dans un courriel adressé à NPR. « Nous savons que Schumer aurait aimé que personne ne sache qu'il a dit cela, mais il l'a fait, et cette vidéo permet aux électeurs de voir et d'entendre à quel point il est fier de sa fermeture. »
Le bureau de Schumer n'a pas répondu à une demande de commentaire.
Même si la citation correspondait à des propos tenus par Schumer, l'utilisation de l'IA pour créer de fausses séquences vidéo est excessive, a déclaré Hany Farid, professeur à l'Université de Californie à Berkeley, qui étudie les médias manipulés.
« S'ils avaient voulu utiliser la citation, ils auraient pu afficher une image de Schumer et la superposer, comme cela se fait souvent. On ne peut raisonnablement prétendre que créer un deepfake du sénateur Schumer soit la même chose », a-t-il ajouté.
De plus, Farid a déclaré que l'avertissement figurant dans le coin inférieur droit de la vidéo « n'est pas particulièrement clair ni évident, surtout lorsque la plupart des utilisateurs consultent leurs publications sur les réseaux sociaux avec un esprit critique ».
La vidéo du NRSC a également été critiquée par des journalistes et d'autres commentateurs sur les réseaux sociaux, notamment des journalistes de publications de droite.
« L'article sur Schumer est une vidéo générée par l'IA – indiquée en bas à droite – mais nous sommes à l'aube d'un monde nouveau et terrifiant », a écrit Jon Levine, journaliste politique au Washington Free Beacon, sur X.
« Le NRSC a de plus en plus recours à l'IA pour ses publicités, mais c'est la première fois que je le vois aller jusqu'à l'utiliser pour une fausse vidéo d'un adversaire. C'est une pente glissante, même avec la petite indication d'IA dans le coin », a écrit Ramsey Touchberry, journaliste parlementaire au Washington Examiner, sur X.
Face aux critiques, Rodriguez, du NRSC, a écrit sur son propre compte X : « L’IA est là et ne disparaîtra pas. S’adapter et gagner ou se laisser aller et perdre. »
Ce n’est pas la première fois que les Républicains utilisent l’IA pour se faire passer pour Schumer et d’autres Démocrates. À la veille du shutdown, le président Trump a publié sur Truth Social une vidéo apparemment générée par l’IA, truffée de grossièretés, où Schumer déclare : « Plus personne n’aime les Démocrates. » Le chef de la minorité à la Chambre des représentants, Hakeem Jeffries, apparaît également dans la vidéo, coiffé d’un sombrero et d’une moustache de style dessin animé.
Mais contrairement à la vidéo de Schumer réalisée par le NRSC, les exemples précédents étaient faciles à repérer comme étant inauthentiques.
Farid a averti que la prévalence croissante des fausses IA en politique pourrait avoir un effet corrosif.
« Bien que je ne pense pas que nos dirigeants devraient publier des deepfakes trompeurs, ils courent également le risque que, lorsqu'ils publient du contenu réel, le public ait de bonnes raisons de remettre en question son authenticité », a-t-il déclaré.