Incidents associés
NOUVELLE-ORLÉANS — Un consultant démocrate qui a travaillé pour une campagne présidentielle rivale a payé un magicien de la Nouvelle-Orléans pour utiliser l’intelligence artificielle afin de se faire passer pour le président Joe Biden pour un appel automatisé qui est maintenant au centre d’une enquête policière multi-états, selon des SMS, des journaux d’appels et des transactions Venmo que le créateur a partagés avec NBC News.
Paul Carpenter dit avoir été embauché en janvier par Steve Kramer — qui a travaillé sur l’accès au scrutin pour le candidat démocrate à la présidence Dean Phillips — pour utiliser un logiciel d’IA afin d’imiter la voix de Biden exhortant les démocrates du New Hampshire à ne pas voter lors de la primaire présidentielle de l’État.
« J’ai créé l’audio utilisé dans l’appel automatisé. Je ne l’ai pas distribué », a déclaré Carpenter dans une interview à la Nouvelle-Orléans, où il réside actuellement. « Je me suis retrouvé dans une situation où quelqu’un m’a proposé de l’argent pour faire quelque chose, et je l’ai fait. Il n’y avait aucune intention malveillante. Je ne savais pas comment l’argent allait être distribué. »
Carpenter — qui détient des records du monde](https://www.recordholdersrepublic.co.uk/world-record-holders/73/paul-carpenter.aspx) en matière de flexion de fourche et d’évasion de camisole de force, mais n’a pas d’adresse fixe — a montré à NBC News comment il a créé le faux audio de Biden et a déclaré qu’il s’était manifesté parce qu’il regrettait son implication dans cette épreuve et voulait avertir les gens de la facilité avec laquelle l’IA peut être utilisée pour induire en erreur.
La création du faux audio a pris moins de 20 minutes et n’a coûté qu’un dollar, a-t-il déclaré, pour lequel il a été payé 150 dollars, selon les paiements Venmo de Kramer et de son père, Bruce Kramer, qu’il a partagés.
« C’est tellement effrayant que ce soit aussi facile à faire », a déclaré Carpenter. « Les gens ne sont pas prêts pour ça. »
Carpenter a partagé ce qu’il dit être le fichier audio original créé avec Eleven Labs qui semble être une version complète et de meilleure qualité de l’enregistrement de l’appel que NBC News a précédemment rapporté.
L’appel automatisé a attiré l’attention intense des responsables de l’application de la loi du New Hampshire et du gouvernement fédéral pour avoir peut-être violé les lois de l’État sur la suppression des électeurs et les lois fédérales sur les télécommunications. Les responsables ont mentionné le nom d’une société de Dallas qui a été utilisée pour passer les appels téléphoniques automatiques aux électeurs avant les primaires de l’État et ont juré d’enquêter, invoquant le désir de faire un exemple des personnes impliquées dans le premier exemple connu d’un deepfake généré par l’IA déployé de manière malveillante dans une campagne politique américaine. Les autorités n'ont pas nommé Carpenter ou Steve Kramer comme cibles de leur enquête.
Après la publication, un porte-parole du procureur général du New Hampshire a refusé de commenter, mais a déclaré : « Notre enquête reste active et en cours. »
Les acteurs
Steve Kramer est un agent politique de longue date, ayant travaillé pour des dizaines de campagnes pendant plus de 20 ans, y compris la campagne présidentielle de 2020 de Ye, le rappeur autrefois connu sous le nom de Kanye West.
Steve Kramer n'a initialement pas répondu à plusieurs demandes de commentaires. Quelques jours plus tard, il a déclaré qu'il attendrait de s'exprimer sur le sujet jusqu'à ce qu'il publie un article d'opinion samedi. « Mon éditorial expliquera tout », a-t-il déclaré dans un texte.
L'équipe de campagne de Phillips et le candidat lui-même ont exprimé leur indignation lorsqu'on les a interrogés sur l'implication présumée de Steve Kramer, affirmant qu'ils ne travailleraient plus jamais avec lui et qu'ils pourraient intenter une action en justice si les allégations étaient confirmées.
"Je suis dégoûté qu'un consultant embauché pour aider ma campagne à accéder aux bulletins de vote soit accusé d'avoir simulé un appel automatisé se faisant passer pour Joe Biden", a tweeté Phillips vendredi après la publication de cet article. "Bien que je ne connaisse pas la personne, un tel comportement est méprisable et j'espère qu'il fera l'objet d'une enquête des autorités".
"Il est également méprisable que le Parti limite activement l'accès aux bulletins de vote des États et mette sur liste noire des consultants réputés qui travailleraient autrement avec des adversaires comme moi. La corruption en politique est omniprésente et doit être exposée et traitée", a-t-il ajouté.
NBC News n'a vu aucune preuve que la campagne ait demandé à Steve Kramer de produire ou de diffuser l'appel automatisé.
Les dossiers de la Commission électorale fédérale montrent que Steve Kramer a été payé 259 946 $ par la campagne de Phillips en décembre et janvier. Les paiements concernaient des travaux d'accès aux urnes à New York et en Pennsylvanie, qui incluent la collecte des signatures nécessaires pour se qualifier pour le scrutin. La campagne a déclaré que le travail comprenait la production et la distribution d'un appel automatisé mettant en vedette la voix de Phillips.
Les paiements mentionnés dans leurs documents de financement de campagne indiquent que Steve Kramer a effectivement fait du travail pour faire voter les électeurs.
« S'il est vrai que M. Kramer a participé à la création de faux appels automatisés, il l'a fait de son propre gré, ce qui n'avait rien à voir avec notre campagne », a déclaré Katie Dolan, attachée de presse de Phillips. « L'idée fondamentale de notre campagne est l'importance de la concurrence, du choix et de la démocratie. Nous sommes dégoûtés d'apprendre que M. Kramer serait derrière cet appel, et si les allégations sont vraies, nous dénonçons absolument ses actions. »
La campagne de Phillips a déclaré que sa relation avec Steve Kramer avait pris fin il y a plusieurs semaines, après qu'il ait terminé son contrat de collecte de signatures pour aider le candidat à se présenter aux élections dans les États qui lui avaient été assignés et qu'il n'y avait eu aucune communication avec lui jeudi soir.
La conseillère principale de la campagne Biden, Liz Purdy, a déclaré dans un communiqué post-publication que la campagne était « hyper vigilante » face à la « menace urgente » de désinformation.
« Nous soutenons les efforts, notamment ceux des forces de l'ordre du New Hampshire, pour demander des comptes à ceux qui veulent perturber nos élections démocratiques », a-t-elle ajouté.
Le magicien et le consultant politique
Carpenter, qui est né à Houston et se qualifie lui-même d'« artiste nomade numérique de la vie », ne s'attendait pas à se retrouver au milieu d'un scandale politique national lorsqu'il dit avoir rencontré Steve Kramer l'année dernière.
« La seule chose qui manque au cirque politique, c'est un magicien et me voilà », a déclaré Carpenter, qui anime également un podcast, a créé des vidéos pédagogiques sur le mentalisme](https://www.magictricks.com/dvd-mentally-hypnosis.html) et dit s'être produit dans 24 pays.
Au cours des dernières années, il a déclaré avoir créé des programmes informatiques et expérimenté des NFT, la création de contenu et l'IA. Il a déclaré avoir créé des programmes informatiques et expérimenté des NFT, l'intelligence artificielle et l'IA. Il a déclaré avoir créé des NFT, l'intelligence artificielle et l'IA. Il a déclaré avoir créé des NFT, l'intelligence artificielle et l'IA. Il a déclaré avoir créé des NFT, l'intelligence artificielle et l'IA. Il a déclaré avoir créé des NFT, l'intelligence artificielle et l'IA. Il a déclaré avoir créé des NFT, l'intelligence artificielle et l'IA. Il a déclaré avoir créé des NFT, l'intelligence artificielle et l'IA. Il a déclaré avoir créé des NFT, l'intelligence artificielle et l'IA. Il a déclaré avoir créé des NFT, l'intelligence artificielle et l'IA. Il parle de sa croyance dans les théories du complot d'extrême droite telles que l'« État profond » et a « quelques problèmes » avec le premier atterrissage sur la Lune, mais dit aussi avoir mis en scène une performance artistique où il a placé des toilettes en porcelaine sur l'étoile de l'ancien président Donald Trump sur le Hollywood Walk of Fame et a fait semblant de déféquer dessus.
Il a mis en scène plusieurs de ces cascades destinées à provoquer, dit-il, comme une dans laquelle il portait seulement une feuille de vigne à Times Square à New York en guise d’expression d’« authenticité radicale », et une autre dans laquelle il s’est filmé représentant divers archétypes américains, dont un suprémaciste blanc avec une croix gammée sur le front, ce qui, selon lui, visait à montrer que nous sommes tous humains, malgré la haine que nous pouvons avoir les uns pour les autres.
Carpenter a expliqué que Steve Kramer et lui avaient été présentés par l'intermédiaire d'une connaissance commune pour laquelle il avait travaillé sur la conception de sites Web et la gestion des réseaux sociaux, et qu'il s'était intéressé à son expérience avec l'IA.
Carpenter a déclaré qu'il pensait que Steve Kramer travaillait pour les personnes dont il lui était demandé d'imiter la voix et que les projets de voix étaient autorisés par les campagnes. Il n'avait pas entendu parler de Phillips, un membre du Congrès du Minnesota, et a déclaré qu'il n'était pas au courant du travail de Steve Kramer pour le candidat.
Les deux premiers projets se faisaient passer pour le sénateur Lindsey Graham, républicain de Caroline du Sud, apparemment pour être utilisés dans des sondages robotisés demandant aux électeurs républicains de la primaire présidentielle quel candidat ils soutenaient, a déclaré Carpenter. Le troisième était le faux audio de Biden demandant aux démocrates de ne pas se rendre aux urnes dans le New Hampshire.
« Ayez un projet de voix AI », a envoyé Steve Kramer par SMS à Carpenter le 27 septembre, selon les SMS que Carpenter a partagés avec NBC News. Le numéro de téléphone de Steve Kramer dans ces SMS correspondait à une recherche de dossiers en ligne et cela a également été confirmé lors de la prise de contact avec lui pour obtenir un commentaire. Steve Kramer a ensuite envoyé à Carpenter un échantillon audio de la voix du sénateur de Caroline du Sud et a déclaré qu'il enverrait un « script pour Prez Poll pour correspondre à la voix de Caroline du Sud susmentionnée ».
En janvier, trois jours avant la primaire présidentielle du New Hampshire, Steve Kramer a de nouveau envoyé un SMS à Carpenter, disant qu'il lui avait envoyé un script par e-mail. Pour le paiement, Steve Kramer a ensuite dirigé Carpenter vers son père, Bruce Kramer, pour des raisons inconnues de Carpenter.
Les transactions Venmo montrent qu'un compte portant le nom de Bruce Kramer a payé 150 $ à Carpenter en deux transactions le 20 janvier.
« Je n'ai rien à dire sur le sujet », a déclaré Bruce Kramer lors d'une brève interview téléphonique jeudi.
Le 22 janvier, lorsque NBC News a révélé pour la première fois la nouvelle du faux appel automatisé de Biden, Steve Kramer a envoyé à Carpenter un SMS avec un lien vers l'article accompagné du message « Chut », auquel Carpenter a répondu « Gtfooh », un acronyme utilisé pour exprimer son étonnement.
Des captures d'écran des journaux d'appels montrent de nombreux échanges téléphoniques entre Steve Kramer et Carpenter au cours des heures suivantes. Carpenter affirme avoir accédé à la demande de Steve Kramer de supprimer toute leur correspondance électronique, qui comprenait, selon lui, les scripts du faux appel automatisé de Biden et d'autres instructions.
Un stratège démocrate chevronné qui ne connaît pas personnellement Steve Kramer a reçu un message urgent de sa part le 30 janvier lui demandant de parler de l'appel automatisé de Biden. L'agent, qui a demandé l'anonymat pour parler de la conversation privée, n'a pas répondu.
Qui est Steve Kramer ?
Steve Kramer, le président de sa propre petite entreprise, est un spécialiste de la mobilisation des électeurs qui a travaillé sur des dizaines de campagnes principalement démocrates au cours des 20 dernières années, y compris certaines campagnes très médiatisées. Il a une vaste expérience des appels automatisés, selon les registres de financement des campagnes de l'État et du gouvernement fédéral.
Précédemment basé à New York, il a travaillé dans la politique de la ville de New York. Sa page Facebook le montre fréquemment en vacances et profitant de la vie nocturne à la Nouvelle-Orléans ou à Miami avec une chemise voyante et un verre à la main.
Steve Kramer a travaillé sur de nombreuses campagnes majeures, mais ce n'est pas sa première confrontation avec la controverse.
En 2020, alors qu'il travaillait pour la campagne présidentielle indépendante de Ye, Steve Kramer a aidé Ye à accéder aux bulletins de vote dans plusieurs États et s'est exprimé publiquement en tant que stratège de premier plan pour la campagne. Ye a fini par avoir des problèmes concernant son accès aux bulletins de vote dans trois États et a également été critiqué pour ses commentaires sur l'esclavage.
En 2021, une ancienne cliente, Sara Tirschwell, une républicaine qui s'était présentée à la mairie de New York, a poursuivi Steve Kramer en justice](https://nypost.com/2021/04/29/consultant-hired-by-kanye-west-sabotaged-gop-candidates-nyc-mayoral-campaign-suit-says/). Elle l'a accusé d'avoir saboté sa campagne en livrant des signatures qui se sont avérées pour la plupart invalides, l'empêchant de se présenter sur le bulletin de vote. Il a refusé de commenter le litige en cours, mais a nié les accusations dans les documents judiciaires ; l'affaire reste ouverte.
Comment le deepfake a été réalisé
Carpenter a montré à NBC News comment il a créé l'imitation de la voix de Biden, en utilisant la voix d'un journaliste comme substitut pour éviter de violer les conditions de service de la plateforme d'IA contre l'utilisation non autorisée de la voix d'une personne.
Il a utilisé Eleven Labs, un générateur de voix texte-parole IA qui a été identifié par une analyse de NBC News et des experts extérieurs comme l'outil utilisé pour créer le robocall de Biden. Il a également utilisé d'autres outils d'IA, pour la plupart gratuits, pour montrer comment il pouvait ajouter l'audio à une vidéo d'une personne qui parle et animer ses lèvres pour qu'elles correspondent.
« Je ne vous montre rien que vous ne puissiez apprendre à faire sur YouTube », a déclaré Carpenter.
Carpenter a également démontré que son précédent compte Eleven Labs, lié à son adresse e-mail principale, avait été fermé par l'entreprise avec un message disant : « Nous avons fermé votre compte en raison d'une activité inhabituelle. » Carpenter a déclaré que le compte avait été verrouillé quelques jours après que NBC News a révélé l'histoire, ce qui concorde avec un rapport de Bloomberg selon lequel Eleven Labs a banni le compte qui a créé l'audio de l'appel automatisé le 26 janvier.
Il est représenté bénévolement par un avocat qu'il a trouvé sur Reddit, Brandon Kizy, un avocat spécialisé dans la défense pénale et le premier amendement basé à Détroit.
« Paul n'avait aucune connaissance préalable de l'utilisation qui serait faite du contenu généré par l'IA et Paul n'avait aucune connaissance qu'il serait utilisé pour potentiellement affecter ou être utilisé en relation avec une élection ou une activité électorale », a déclaré Kizy.
Jusqu'à présent, la partie publique de l'enquête des forces de l'ordre sur les appels s'est concentrée sur une société de télémarketing du Texas qui, selon elles, a distribué les appels automatisés. Les autorités du New Hampshire ont déclaré avoir demandé aux responsables fédéraux d'examiner si les appels violaient la loi sur la protection des consommateurs en matière de téléphonie, la loi sur la vérité dans l'identification de l'appelant et la loi sur la prévention de la fraude et des abus en télémarketing et à la consommation.
Les faux appels de Biden ont atteint 5 000 à 25 000 personnes et ont « usurpé » le numéro d'origine, selon les autorités, pour apparaître sur l'identification de l'appelant comme s'ils provenaient du ancien président du Parti démocrate du New Hampshire, qui menait à l’époque une campagne électorale en faveur de Biden.
« Nous n’avons jamais vu quelque chose d’aussi proche d’une élection auparavant et avec une tentative aussi flagrante d’induire les électeurs en erreur », a déclaré le procureur général du New Hampshire, John Formella, plus tôt ce mois-ci. « Nous ne voulons pas que ce soit le premier d’une longue série. »