Incidents associés
J'ai reçu un appel d'une amie cette semaine. « Tu as vu la vidéo d'Ossoff sur le blocage budgétaire ? » m'a-t-elle demandé à propos du sénateur démocrate Jon Ossoff, incrédule face aux propos tenus par ce démocrate de Géorgie dans une vidéo en ligne.
Je n'avais pas vu la vidéo en question, mais après quelques recherches, j'ai trouvé un extrait d'Ossoff sur le compte X de la campagne du représentant Mike Collins. Collins, un républicain de Jackson, est l'un des trois candidats à la primaire républicaine, très disputée, pour le siège de sénateur d'Ossoff.
« Salut. Ici le sénateur Jon Ossoff. Je viens de voter pour le maintien du blocage budgétaire », dit-il.
La vidéo semble authentique, et c'est normal puisque l'image provient du portrait officiel d'Ossoff au Sénat, avec l'insigne du Sénat à la boutonnière. Mais ses paroles sont tellement exagérées qu'on ne sait pas vraiment si la vidéo est authentique.
En réalité, il s'agit d'une vidéo créée par l'équipe de campagne de Collins, dont le texte a été écrit pour Ossoff et doublé par une voix de synthèse.
« Ils disent que ça va nuire aux agriculteurs, mais je n'en sais rien. Je n'ai vu qu'une ferme sur Instagram », déclare Ossoff, la voix de l'IA. « Et les bénéficiaires du programme SNAP. Je ne pense pas qu'ils soient à mes levées de fonds à New York ou en Californie, alors qui s'en soucie ? »
Un petit avertissement indique aux spectateurs que la vidéo est générée par une IA, mais cet avertissement n'est visible sur un téléphone que si l'on clique sur la vidéo pour la regarder en plein écran, puis que l'on clique à nouveau pour faire disparaître le texte qui le masque.
Le Parti démocrate de Géorgie a vivement critiqué la vidéo. « Au lieu d'essayer de tromper les électeurs avec des vidéos truquées, le député peu scrupuleux Mike Collins devrait expliquer pourquoi il soutient le doublement des primes d'assurance maladie des Géorgiens », a déclaré un porte-parole.
Mais l'équipe de campagne de Collins n'a présenté aucune excuse pour la vidéo et n'a pas l'intention d'arrêter de manipuler la voix d'Ossoff dans de nouvelles vidéos à l'avenir.
« À mesure que la technologie évolue et crée de nouvelles opportunités pour atteindre et communiquer avec les électeurs, la campagne de Collins sera à l'avant-garde en adoptant de nouvelles tactiques et stratégies qui permettent de contourner la couverture médiatique partiale des médias traditionnels et de transmettre notre message directement aux électeurs », a déclaré un porte-parole de la campagne.
Je suppose que je fais partie de ces « médias traditionnels partiaux », mais je ne suis pas le seul à considérer les vidéos de campagne générées par l'IA comme un début de dérive dangereuse.
Ces dernières années, républicains et démocrates ont tiré la sonnette d'alarme quant aux dangers à venir, y compris Ossoff lui-même, qui a déclaré devant la commission du Règlement du Sénat en 2023 que n'importe qui pourrait utiliser l'IA pour « délibérément, sciemment et avec un réalisme extrême, vous dépeindre, vous ou n'importe lequel d'entre nous, ou un candidat qui nous défie, en faisant tenir des propos que nous n'avons jamais tenus, de manière à ce qu'il soit impossible pour le consommateur de médias de les distinguer d'un enregistrement réaliste de nos discours ».
Voilà où nous en sommes. Dans trois ou six mois, la vidéo d'Ossoff pourrait être manipulée à nouveau par d'autres personnes ou n'être qu'une parmi tant d'autres fausses informations concernant Ossoff, Collins et tous les autres candidats aux élections en Géorgie, quel que soit leur parti.
Les représentants de l'État Todd Jones (R-Cumming) et Brad Thomas (R-Comté de Cherokee) ont tous deux apporté leur soutien à Collins dans sa course au Sénat. Ensemble, ils sont également à l'origine d'une initiative visant à criminaliser l'utilisation de deepfakes dans les campagnes électorales en Géorgie, destinés à tromper les électeurs. Les projets de loi présentés à deux reprises par Jones et Thomas exigeraient la divulgation claire du contenu généré par l'IA et interdiraient les vidéos utilisant l'IA 60 jours avant une élection.
Pour bien faire comprendre à leurs collègues moins férus de technologie ce qui les attend, Jones et Thomas ont créé un deepfake et l'ont diffusé lors d'une audition à la Chambre des représentants en 2024.
La vidéo montrait le député de l'État de Géorgie, Colton Moore (républicain, Trenton), soutenant le projet de loi sur l'IA auquel il s'était pourtant opposé avec véhémence.
« Si l'IA peut être utilisée pour faire dire à Colton Moore (https://archive.is/o/vafbF/https://www.ajc.com/politics/georgia-legislative-navigator/%23members/4933) en faveur d'une loi populaire, elle peut être utilisée pour faire dire à n'importe lequel d'entre vous des choses que vous n'avez jamais dites », déclare l'IA de Colton Moore. « Êtes-vous prêts à assumer les conséquences de laisser les deepfakes par l'IA rester une stratégie de campagne viable et légale ? »
La Chambre des représentants a adopté les projets de loi de Jones et Thomas à deux reprises, mais ils ont tous deux été rejetés par le Sénat.
Jones a déclaré qu'il est crucial de protéger le Premier Amendement et la liberté d'expression, mais aussi que les législateurs agissent rapidement et trouvent une solution adéquate.
« Les électeurs doivent savoir, en réalité, non seulement pour qui ils votent, mais aussi ce que cette personne pense réellement », a-t-il déclaré.
Est-il possible d'interdire purement et simplement l'IA dans les campagnes électorales américaines ? Si l'enthousiasme des autres responsables de campagne en Géorgie est un indicateur, la vidéo d'Ossoff générée par l'IA de Collins n'est que le début de l'utilisation croissante de l'IA dans les campagnes électorales.
La Maison Blanche a régulièrement recours à l'IA pour créer des vidéos extravagantes afin de capter l'attention des électeurs. De nombreuses autres campagnes suivront, proposant des montages IA toujours plus impressionnants, audacieux et sophistiqués, même si leur contenu est mensonger.
« À ceux qui disent qu'il est trop tard, est-ce vraiment le cas ? » a déclaré Jones. « Il est essentiel que nous soyons clairs sur ce point, car la vérité doit être connue des électeurs avant qu'ils ne votent. »
Tant que le Sénat de Géorgie n'aura pas adopté la proposition de loi très pertinente de Jones et Thomas, la prudence est de mise.
Avant de regarder une vidéo de campagne incroyable sur les réseaux sociaux, comme celle avec Ossoff, et de demander à un ami : « Tu y crois ? », prenez un instant pour vous demander : « Est-ce que j'y crois ? »