Incidents associés
Tard dans l’après-midi du dimanche 21 janvier, Kathy Sullivan a reçu un SMS d’un membre de sa famille qui lui a dit avoir reçu un appel de Sullivan ou de son mari et qu’il y donnait suite.
Trésorière d’un super PAC qui mène une campagne d’inscription pour le président Joe Biden lors des élections primaires du New Hampshire, Sullivan était occupée par des tâches en prévision d’une élection qui se tiendrait dans seulement deux jours. Elle a ignoré le SMS et a supposé que l’amie avait été appelée par accident.
Quelques heures plus tard, Sullivan était sur le point de sortir pour dîner lorsqu’elle a reçu un autre appel, cette fois d’un électeur du New Hampshire qui lui demandait pourquoi elle envoyait des messages vocaux automatisés de Biden sur son téléphone. Déconcertée, Sullivan lui a dit qu’elle n’avait pas passé de tels appels et est partie sans trop réfléchir aux incidents.
À mi-chemin du dîner, Sullivan a jeté un œil à son téléphone et a vu une douzaine d’appels manqués de numéros qu’elle ne reconnaissait pas. C’est à ce moment-là qu’elle s’est dit : « Oh mince, il y a quelque chose de plus ici que je ne le pense. Il se passe quelque chose. »
Quelqu'un a commencé à inonder les électeurs du New Hampshire d'un appel automatisé qui ressemblait à un avertissement de Biden aux démocrates de ne pas voter lors des primaires de mardi, car cela « ne fait que favoriser les républicains dans leur quête d'élire Donald Trump ». La voix a exhorté les démocrates fidèles à se rappeler que « votre vote fait une différence en novembre, pas ce mardi ».
Un enregistrement audio d'un appel automatisé se faisant passer pour le président Joe Biden ciblant les électeurs du New Hampshire.
Encore plus étrange, le numéro de téléphone qui apparaissait sur l'identifiant de l'appelant semblait appartenir à Sullivan, l'ancien président du parti démocrate de l'État du New Hampshire. Celui qui a orchestré les appels avait usurpé son numéro de portable, ce qui a valu à Sullivan d'être bombardée de questions et de plaintes de la part des électeurs du New Hampshire.
Ce qui inquiétait Sullivan s'est avéré être une étape potentielle dans l'élection américaine de 2024 - ce qui semble être le premier exemple de désinformation audio générée par l'IA ciblant les électeurs américains. Il est peu probable que ce soit le dernier.
Les technologues, les spécialistes de la cybersécurité et les agences gouvernementales ont prévenu depuis des années que les outils d’IA pourraient être utilisés pour créer des images, des vidéos et des sons réalistes de personnes faisant et disant des choses qu’elles n ’ont jamais faites. L’appel automatisé du New Hampshire marque le moment où la possibilité que des acteurs malveillants exploitent les deepfakes lors des élections de 2024 est devenue viscéralement réelle.
« Ce que nous voyons maintenant dans le New Hampshire, c’est l’application de cette technologie à grande échelle », a déclaré à CyberScoop Rex Booth, ancien responsable de la Cybersecurity and Infrastructure Security Agency et du Bureau du directeur national de la cybersécurité.
Dans ce cas, l’acteur derrière les appels, ainsi que leur motif ultime, restent inconnus. L’impact de cet appel sur le comportement électoral reste flou, et Biden a hautement remporté sa primaire bien qu’il ne soit pas apparu sur le bulletin de vote.
Si les électeurs américains ont déjà été exposés à des deepfakes, à de la désinformation et à de la mésinformation, l’incident du New Hampshire montre comment l’IA peut être « appliquée de manière à avoir la capacité d’avoir un impact plus rapide, plus immédiat et de manière plus pertinente et directe sur un plus grand nombre d’électeurs potentiels », a déclaré Booth, qui est désormais responsable de la sécurité informatique chez la société de logiciels Sailpoint.
L'année dernière, une explosion de désinformation générée par l'IA a eu lieu dans des pays comme la Slovaquie, le Royaume-Uni et Taïwan. Les deepfakes ont déjà été utilisés lors d’élections américaines, comme lorsque le Comité national républicain a diffusé une publicité générée par l’IA pour décrire une vision apocalyptique de l’avenir des États-Unis si Biden était réélu en 2024. L’incident du New Hampshire est la première fois qu’ils sont utilisés pour cibler directement les électeurs américains et modifier leur comportement dans les bureaux de vote.
« C’était prévisible et prédit », a déclaré à CyberScoop Lindsay Gorman, chercheuse principale en technologies émergentes à l’Alliance for Securing Democracy du German Marshall Fund et ancienne conseillère principale de la Maison Blanche sur l’IA, la démocratie et la sécurité nationale.
La prolifération des systèmes d’IA et la relative facilité avec laquelle une personne peut être imitée à l’aide de la technologie deepfake – nécessitant généralement une heure d’audio et parfois seulement trois minutes – signifient que l’appel automatisé du New Hampshire est probablement révélateur de ce qui va se passer au cours des élections de 2024.
« Je doute fortement que ce soit le dernier incident de ce genre auquel nous assistons », a déclaré Gorman.
Sullivan et d’autres ont déposé une plainte auprès du bureau du procureur général du New Hampshire au sujet de ces appels, bien qu’elle ait reconnu qu’elle ne savait pas avec certitude quelles lois étatiques ou fédérales avaient pu être violées. Les forces de l’ordre du New Hampshire enquêtent déjà sur l’incident. Les membres démocrates du Congrès ont appelé le procureur général des États-Unis, Merrick Garland, à ouvrir une enquête fédérale.
« Ces messages semblent être une tentative illégale de perturber l’élection primaire présidentielle du New Hampshire et de réprimer les électeurs du New Hampshire », a déclaré le bureau du procureur général de l’État dans un communiqué du 23 janvier.
À certains égards, Sullivan était particulièrement préparée à gérer un incident comme celui-ci. En 2002, elle était la présidente du parti démocrate de l’État lorsque des agents du GOP ont mené une opération de brouillage téléphonique visant à perturber l’opération de mobilisation des électeurs de son parti lors d’une course au Sénat très disputée. Quatre personnes, dont Charles McGee, le directeur exécutif du Parti républicain du New Hampshire, ont été accusées et condamnées ou ont plaidé coupables de charges découlant de leur rôle dans l’incident.
À d’autres égards, Sullivan est emblématique de l’inaptitude de nombreux responsables étatiques et locaux à gérer les menaces de l’IA. Elle se décrit comme « une personne qui n’est pas une technicienne » et qui, avant cette semaine, n’avait qu’une connaissance générale de l’intelligence artificielle, des deepfakes et de leur impact potentiel sur les élections.
« Bien sûr, maintenant, je suis extrêmement intéressée et je vais y prêter beaucoup plus d’attention », a déclaré Sullivan.
La première ligne de défense contre des campagnes comme celle du New Hampshire sera constituée par les responsables électoraux des États et des collectivités locales, dont beaucoup sont déjà confrontés à un manque de ressources et à une hostilité croissante de la part des électeurs méfiants à l’égard du système électoral.
Les agences fédérales comme la CISA ont joué un rôle important dans la lutte contre la désinformation lors des élections passées, notamment par le biais d’une page Web « Rumor Control » qui a démystifié diverses théories de conspiration liées aux élections avant les élections de 2020.
Cependant, une série de décisions judiciaires récentes et une presse plénière de membres républicains du Congrès, qui ont soutenu que le gouvernement fédéral ne devrait pas avoir pour mission de contrôler la désinformation, ont considérablement entravé la capacité d'agences comme la CISA à interagir avec les sociétés de médias sociaux et à coordonner leurs efforts avec des parties extérieures autour de la désinformation.
Pour une agence dont le directeur fondateur a été sommairement renvoyé en 2020 après avoir repoussé la désinformation liée aux élections, les cicatrices politiques et les retombées ont continué à persister.
« Je ne pense pas que la CISA ait l’appétit ou l’autorité pour s’aventurer à nouveau dans ces eaux », a déclaré Booth.
Dans un éditorial de janvier publié dans Foreign Affairs, la directrice de la CISA, Jen Easterly, la conseillère principale en sécurité électorale, Cait Conley, et le secrétaire d’État du Kansas, Scott Schwab, ont écrit que si le soutien fédéral est nécessaire, « en grande partie, la responsabilité de répondre à cette menace incombera aux responsables électoraux des États et des collectivités locales du pays ».
« Nous devons résoudre ce problème. « Nous n’avons pas la capacité de le faire, nous allons donc devoir compter sur l’aide des nationaux », a déclaré Sullivan, qui a appelé les organisations nationales des partis et les législateurs fédéraux à s’attaquer au problème par le biais de formations, de ressources et de lois.
Bien que l’appel automatisé du New Hampshire ait été perturbateur, Sullivan pense que les responsables de l’État et locaux peuvent tirer des leçons de l’épisode et de la façon dont elle et d’autres responsables y ont réagi. Alors que de nombreuses campagnes emploient déjà des équipes d’intervention rapide pour les développements rapides, cette équipe devrait avoir une sorte de plan en place pour faire face à l’émergence de faux médias ou de médias probablement faux, a déclaré Sullivan.
« Il faut avoir des gens prêts à agir au pied levé. Vous devez être prêt à recevoir des messages, afin de ne pas prendre trois heures pour déterminer ce que vous devez dire dans cet e-mail de propagande », a soutenu Sullivan.
Dans le cas du New Hampshire, Sullivan et d’autres responsables du parti ont immédiatement agi pour envoyer des e-mails aux partisans les avertissant de la fausse bande sonore et les exhortant à voter lors des primaires de mardi. Ils ont également contacté les médias pour tenter d’obtenir une couverture plus large de l’incident.
Les avocats du personnel ont été chargés d’identifier et de contacter rapidement les responsables concernés des forces de l’ordre et du bureau du procureur général de l’État pour signaler l’appel. Sullivan a déclaré que le fait d’avoir ces contacts en place a permis de gagner un temps précieux et a contribué à une annonce rapide publiée lundi selon laquelle les forces de l’ordre de l’État enquêtaient sur l’incident, ce qui n’aurait peut-être pas eu lieu s’ils avaient appelé à froid les autorités à l’improviste pour leur faire part de leurs allégations de fraude électorale par l’IA.
Mais les petites campagnes et les bureaux électoraux peuvent manquer de ressources pour répondre efficacement à ces incidents en temps réel. Et à mesure que la campagne de 2024 s’éternise, des campagnes politiques plus obscures pourraient s’avérer être des cibles plus faciles pour la désinformation par l’IA, qui pourrait être plus difficile à repérer dans des élections moins scrutées.
Si le rythme monotone et robotique de l’appel automatisé du New Hampshire n’a peut-être pas trompé les électeurs habitués au style de discours de Biden grâce à des décennies d’exposition médiatique, les électeurs pourraient être plus facilement dupés par un deepfake d’un candidat moins connu se présentant à une élection d’État. Si ce candidat a déjà pris la parole lors d’une réunion publique ou est apparu dans une interview télévisée, il y a de fortes chances qu’il y ait suffisamment d’audio et de vidéo de lui dans le domaine public pour créer des deepfakes convaincants.
« Je ne sais pas si quelqu’un aurait pu empêcher que cela se produise, si quelqu’un avait eu la capacité de le faire », a déclaré Sullivan. « Alors, comment pouvons-nous nous préparer au mieux ? »