Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 4072

Incidents associés

Incident 62815 Rapports
Fake Biden Voice in Robocall Misleads New Hampshire Democratic Voters in 2024 Primary Election

Loading...
Un magicien affirme avoir aidé à imiter la voix de Biden pour un appel automatisé dans le New Hampshire : ce que nous savons
bostonglobe.com · 2024

La nouvelle a éclaté à la veille des primaires présidentielles du New Hampshire : quelqu'un, quelque part, avait utilisé l'intelligence artificielle pour imiter la voix d'un candidat de premier plan afin de réduire la participation électorale parmi ses partisans.

Des milliers d'électeurs du New Hampshire ont reçu des appels accompagnés d'un message audio les exhortant à « conserver » leur vote pour les élections générales de novembre plutôt que de participer aux primaires démocrates de l'État le 23 janvier. La voix ressemblait beaucoup à celle du président Biden, mais ce n'était pas lui. Les appels ont été « usurpés » pour donner l'impression qu'ils provenaient du numéro de téléphone portable personnel de Kathy Sullivan, une ancienne présidente du Parti démocrate de l'État qui aide à gérer Granite for America, un super PAC qui a soutenu la campagne de Biden.

Les partisans de Biden ont qualifié cet appel d'« ingérence électorale pure et simple » et les autorités ont accepté. Le procureur général du New Hampshire, John M. Formella, a immédiatement déclaré que les messages « semblent être une tentative illégale de perturber l'élection primaire présidentielle du New Hampshire et de réprimer les électeurs de cet État ». Son bureau et d'autres agences ont lancé une enquête et rapidement lié l'appel à deux entreprises du Texas.

Vendredi, un magicien basé à la Nouvelle-Orléans s'est porté volontaire pour avoir créé --- mais pas distribué --- l'enregistrement audio. Il a déclaré à l'Associated Press qu'il était surpris d'apprendre que l'audio avait été utilisé pour décourager les gens de voter.

Un porte-parole de Formella a déclaré lundi qu'il n'avait aucune mise à jour supplémentaire à partager pour le moment.

"Notre enquête reste active et en cours", a déclaré le porte-parole.

Voici ce que nous savons jusqu'à présent sur les questions clés :

Qui a produit le deepfake audio de Biden ?

Paul Carpenter, un magicien de la Nouvelle-Orléans, a déclaré avoir été embauché en janvier pour créer, mais pas pour distribuer, l'audio utilisé dans l'appel automatisé, NBC News a rapporté vendredi. Carpenter aurait partagé le fichier audio complet et aurait déclaré avoir utilisé un générateur de voix IA d'Eleven Labs pour le créer.

Carpenter aurait déclaré qu'il pensait que son client, un agent politique de longue date, travaillait pour les personnes dont il lui était demandé d'imiter la voix. Il a déclaré à l'Associated Press qu'il avait été surpris d'apprendre que l'audio avait été utilisé pour décourager les gens de voter.

« J'ai créé l'arme », a-t-il déclaré. « Je n'ai pas tiré dessus. »

Dans son entretien avec l'AP, Carpenter s'est décrit comme un « nomade numérique » transitoire qui voyage à moto avec son teckel à poil long, Moose, qu'il a appelé un « animal de soutien psychiatrique » l'aidant à faire face au traumatisme d'avoir été touché par des coups de feu il y a plusieurs années. Il voyage également avec un ordinateur portable et d'autres équipements électroniques qu'il utilise pour créer du contenu et des projets sur les réseaux sociaux.

Carpenter a déclaré qu'il faisait des tours de magie de près - y compris des illusions dans lesquelles il semble plier des cuillères et des fourchettes à volonté - dans les rues et lors de conventions. Il a déclaré à NBC qu'il détenait des records du monde en matière de flexion de fourche et d'évasion de camisole de force.

Qui a commandé la production audio ?

Steve Kramer, le consultant politique qui, selon Carpenter, l'a engagé pour produire l'audio, a reconnu son implication, NBC News a rapporté dimanche. Il n'a exprimé aucun remords et a affirmé que le canular était un acte ciblé de désobéissance civile pour démontrer les risques politiques de l'IA.

Kramer aurait déclaré qu'il avait eu l'idée tout seul, et que son récent travail de consultant pour le candidat démocrate à la présidence Dean Phillips du Minnesota n'y était pour rien.

Carpenter a déclaré avoir rencontré Kramer l'année dernière par l'intermédiaire de connaissances communes et a déclaré que Kramer l'avait initialement embauché pour créer un son IA en utilisant la fausse voix du sénateur républicain Lindsey Graham avant de l'engager pour créer le son de Biden.

Carpenter a déclaré à l'AP qu'il pensait que Kramer travaillait pour la campagne Biden et a déclaré que le travail lui avait été présenté comme une mesure possible de gain de temps et d'argent, éliminant la nécessité pour le président de se rendre dans un studio d'enregistrement.

Comment la campagne de Dean Phillips réagit-elle ?

Un porte-parole de la campagne de Phillips a reconnu avoir engagé Kramer en janvier pour recueillir des signatures en vue d'un accès aux urnes à New York et en Pennsylvanie, mais le porte-parole a nié toute implication dans le scandale de suppression des électeurs du New Hampshire.

"S'il est vrai que M. Kramer a participé à la création de faux appels automatisés, il l'a fait de son propre chef, ce qui n'avait rien à voir avec notre campagne", a déclaré la porte-parole Katie Dolan dans une déclaration au Boston Globe. « L'idée fondamentale de notre campagne est l'importance de la concurrence, du choix et de la démocratie. Nous sommes dégoûtés d'apprendre que M. Kramer serait derrière cet appel, et si les allégations sont vraies, nous dénonçons absolument ses actions. »

Qui a diffusé le message par le biais d'appels automatisés ?

Formella a annoncé 6 février que les enquêteurs ont retracé les appels jusqu'à la Life Corporation de Walter Monk au Texas et au fournisseur de services Lingo Telecom. Il a déclaré que l'État travaillait toujours à identifier d'autres personnes qui pourraient être responsables.

Dans sa lettre de mise en demeure [https://docs.fcc.gov/public/attachments/DOC-400264A1.pdf], la Commission fédérale des communications a déclaré que Life Corporation et Lingo Telecom avaient déjà eu des ennuis, notamment dans 61 cas où Lingo avait été identifié comme « le fournisseur de passerelle » pour des appels présumés illégaux provenant de l'étranger.

Texas Monthly a rapporté que Monk est « un fondateur d'entreprise en série avec un champ d'activité vertigineux » allant des hotlines pour les rencontres et les lectures psychiques aux sondages politiques.

Dans une déclaration à NBC News, Kramer a confirmé qu'il avait embauché Life Corporation comme télévendeur pour distribuer les appels.

Comment les autorités sévissent-elles ? ----------------------------------

Formella a déclaré que son bureau, la FCC et le groupe de travail sur les litiges multi-états anti-robocall avaient chacun envoyé des lettres à Life Corporation et Lingo Telecom pour avertir les entreprises et leur demander de se conformer aux lois fédérales et étatiques. Formella a déclaré que son bureau pourrait toujours intenter d'autres actions coercitives en vertu de la loi de l'État et assignerait à comparaître plusieurs entités susceptibles de détenir des dossiers pertinents pendant que l'enquête se poursuit.

La conseillère principale de la campagne Biden, Liz Purdy, a déclaré que la campagne est « extrêmement vigilante face à la menace urgente de désinformation » et soutient les efforts des forces de l'ordre pour tenir les perturbateurs antidémocratiques responsables de leurs tactiques de suppression des électeurs.

L'effort de suppression des électeurs a-t-il fonctionné dans le New Hampshire ? -------------------------------------------------------

Bien qu'il ne soit pas clair combien d'électeurs du New Hampshire ont pu zapper la primaire présidentielle de l'État en raison de la réception de l'appel automatisé, Biden a remporté la course démocrate de manière écrasante, recueillant plus de trois fois plus de voix que Phillips, qui a terminé deuxième](https://www.bostonglobe.com/elections/2024/primary/democratic/new-hampshire/?p1=Article_Inline_Text_Link).

Le nom de Biden ne figurait pas sur le bulletin de vote du New Hampshire. Il a sauté la primaire traditionnelle de l'État, la première du pays, parce que lui et le Comité national démocrate ont décidé de reconnaître la primaire de Caroline du Sud comme la première élection sanctionnée par le parti du calendrier de nomination de 2024. Ainsi, tous les votes qu'il a reçus dans le New Hampshire étaient des votes par correspondance.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd