Problème 2868

Le Parti démocrate a commencé à tester l'utilisation de l'intelligence artificielle pour rédiger les premiers brouillons de certains messages de collecte de fonds, des appels qui fonctionnent souvent mieux que ceux rédigés entièrement par des êtres humains.

Fausse IA les images de Donald J. Trump arrêté à New York se sont propagées plus rapidement qu'elles n'ont pu être vérifiées la semaine dernière.

Et les outils de clonage de voix produisent un son extrêmement réaliste du président Biden – et de bien d'autres – disant des choses qu'ils n'ont pas réellement dites.

L'intelligence artificielle n'arrive pas bientôt dans la campagne électorale de 2024. C'est déjà ici.

L'avancée rapide de l'A.I. promet d'être aussi perturbateur pour la sphère politique que pour la société en général. Désormais, n'importe quel amateur disposant d'un ordinateur portable peut fabriquer les types de sons et d'images convaincants qui étaient autrefois le domaine des lecteurs numériques les plus sophistiqués. Cette démocratisation de la désinformation brouille les frontières entre le vrai et le faux à un moment où l'acceptation des vérités universelles – que M. Biden a battu M. Trump en 2020, par exemple – est déjà mise à rude épreuve.

Et à mesure que les médias synthétiques deviennent plus crédibles, la question devient : que se passe-t-il lorsque les gens ne peuvent plus faire confiance à leurs propres yeux et oreilles ?

Dans les campagnes, l'intelligence artificielle devrait bientôt aider à effectuer des tâches banales qui nécessitaient auparavant des flottes de stagiaires. Les ingénieurs républicains et démocrates se battent pour développer des outils permettant d'exploiter l'I.A. pour rendre la publicité plus efficace, pour s'engager dans l'analyse prédictive du comportement du public, pour écrire des textes de plus en plus personnalisés et pour découvrir de nouveaux modèles dans les montagnes de données des électeurs. La technologie évolue si rapidement que la plupart prédisent un impact profond, même si les manières spécifiques dont elle bouleversera le système politique relèvent davantage de la spéculation que de la science.

"C'est un moment iPhone – c'est le seul corollaire que tout le monde appréciera", a déclaré Dan Woods, le directeur de la technologie de la campagne 2020 de M. Biden. "Il va falloir des tests de pression pour déterminer si c'est bon ou mauvais - et c'est probablement les deux."

OpenAI, dont le chatbot ChatGPT a inauguré la ruée vers l'or du texte génératif, a déjà publié un modèle plus avancé . Google a annoncé son intention d'étendre A.I. offres dans des applications populaires telles que Google Docs et Gmail, et déploie son propre chatbot. Microsoft a également mis une version sur le marché. Une petite entreprise, ElevenLabs, a développé un outil de synthèse audio qui peut imiter la voix de n'importe qui en quelques minutes. Midjourney, une A.I. populaire. générateur d'art, peut évoquer des images hyperréalistes avec quelques lignes de texte qui sont [suffisamment convaincantes pour gagner des concours d'art] (https://www.nytimes.com/2022/09/02/technology/ai-artificial-intelligence- artistes.html).

"A.I. est sur le point d'apporter un changement significatif lors des élections de 2024 en raison de la capacité prédictive de l'apprentissage automatique », a déclaré Brad Parscale, le premier directeur de campagne de M. Trump en 2020, qui a depuis fondé une entreprise numérique qui fait la publicité de certains A.I. capacités.

La désinformation et les « deepfakes » sont la peur dominante. Alors que les contrefaçons ne sont pas nouvelles en politique - une image retouchée de [John Kerry et Jane Fonda a été largement partagée en 2004](https://www.Reuters.com/article/factcheck-fonda-kerry/fact-check-old-altered -photo-of-jane-fonda-and-john-kerry-at-an-anti-war-rally-resurfaces-idUSL1N2LL28P) - la capacité de les produire et de les partager s'est accélérée, avec l'IA virale. les images de M. Trump retenu par la police ne sont que le dernier exemple. Une fausse image du pape François en manteau blanc bouffant est devenue virale ces derniers jours, aussi.

Beaucoup sont particulièrement inquiets pour les courses locales, qui sont beaucoup moins surveillées. Avant la récente primaire dans la course à la mairie de Chicago, une fausse vidéo brièvement [surgit sur un compte Twitter appelé "Chicago Lakefront News"](https://www.cbsnews.com/chicago/news/vallas-campaign-deepfake- video/) qui se faisait passer pour un candidat, Paul Vallas.

"Malheureusement, je pense que les gens vont comprendre comment l'utiliser pour le mal plus rapidement que pour améliorer la vie civique", a déclaré Joe Rospars, qui était stratège en chef de la campagne 2020 de la sénatrice Elizabeth Warren et est maintenant directeur général d'un cabinet de conseil numérique.

Ceux qui travaillent à l'intersection de la politique et de la technologie reviennent à plusieurs reprises sur la même hypothèse historique : si la tristement célèbre bande "Access Hollywood" éclatait aujourd'hui - celle dans laquelle on entend M. Trump se vanter d'avoir agressé des femmes et de s'en tirer - est-ce que M. . Trump reconnaissez que c'était lui, comme il l'a fait en 2016 ?

La réponse presque universelle était non.

"Je pense tout le temps à cet exemple", a déclaré Matt Hodges, qui était le directeur de l'ingénierie de la campagne 2020 de M. Biden et est maintenant directeur exécutif de Zinc Labs, qui investit dans la technologie démocrate. Les républicains, a-t-il dit, « ne peuvent plus utiliser de ‘fake news’. C'est peut-être "Woke A.I.""

Pour l'instant, la fonction de première ligne d'A.I. sur les campagnes devrait rédiger les premières ébauches des interminables sollicitations d'argent par e-mail et SMS.

"Compte tenu de la quantité de verbiage par cœur et idiot qui est produit en politique, les gens vont le mettre au travail", a déclaré Luke Thompson, un stratège politique républicain.

À titre expérimental, le New York Times a demandé à ChatGPT de produire un e-mail de collecte de fonds pour M. Trump. L'application a d'abord déclaré: "Je ne peux pas prendre parti politiquement ni promouvoir un programme politique." Mais ensuite, il a immédiatement fourni un modèle d'e-mail potentiel de type Trump.

Le chatbot a rejeté une demande de rendre le message «plus en colère», mais s'est conformé lorsqu'on lui a demandé de «lui donner plus d'avantage», afin de mieux refléter le ton souvent apocalyptique des appels de M. Trump. "Nous avons besoin de votre aide pour envoyer un message à la gauche radicale que nous ne reculerons pas", a-t-il ajouté. message dit. "Faites un don maintenant et aidez-nous à redonner de la grandeur à l'Amérique."

Parmi les groupes éminents qui ont expérimenté cet outil figure le Comité national démocrate, selon trois personnes informées des efforts. Lors des tests, le contenu généré par l'IA, le D.N.C. a utilisé a, le plus souvent, fonctionné aussi bien ou mieux que la copie rédigée entièrement par des humains, en termes de génération d'engagement et de dons.

Les responsables du parti apportent encore des modifications à l'A.I. brouillons, ont déclaré les personnes familières avec les efforts, et aucune A.I. Des messages ont pourtant été rédigés sous le nom de M. Biden ou de toute autre personne, ont indiqué deux personnes. La D.N.C. a refusé de commenter.

Higher Ground Labs, une petite société de capital-risque qui investit dans la technologie politique pour les progressistes, travaille actuellement sur un projet, appelé Quiller, pour utiliser plus systématiquement l'IA. pour écrire, envoyer et tester l'efficacité des e-mails de collecte de fonds - tout à la fois.

"A.I. a principalement été du charabia marketing au cours des trois derniers cycles », a déclaré Betsy Hoover, associée fondatrice de Higher Ground Labs, qui était directrice de l'organisation numérique pour la campagne 2012 du président Barack Obama. "Nous sommes maintenant à un moment où il y a des choses que les gens peuvent faire qui sont réellement utiles."

Les agents politiques, dont plusieurs ont obtenu l'anonymat pour discuter des utilisations potentiellement peu recommandables de l'intelligence artificielle qu'ils craignent ou envisagent de déployer, ont évoqué une multitude de possibilités.

Certains craignaient que de mauvais acteurs ne tirent parti de l'IA. chatbots pour distraire ou gaspiller le temps précieux du personnel d'une campagne en se faisant passer pour des électeurs potentiels. D'autres ont flotté en produisant des deepfakes de leur propre candidat pour générer des vidéos personnalisées – remerciant les supporters pour leurs dons, par exemple. En Inde, un candidat en 2020 a produit un deepfake pour diffuser une vidéo de lui-même s'exprimant dans différentes langues ; la technologie est de loin supérieure maintenant.

M. Trump lui-même [shared an A.I. image ces derniers jours] (https://www.forbes.com/sites/mattnovak/2023/03/23/donald-trump-shares-fake-ai-created-image-of-himself-on-truth-social/ ) qui semblait le montrer agenouillé en prière. Il l'a posté sur Truth Social, son site de médias sociaux, sans aucune explication.

Un stratège a prédit que la prochaine génération de sales tours pourrait être une désinformation directe aux électeurs qui ignore complètement les sites de médias sociaux. Et si, disait ce stratège, une A.I. l'enregistrement audio d'un candidat a été envoyé directement sur la messagerie vocale des électeurs à la veille d'une élection ?

L'audio et la vidéo synthétiques tourbillonnent déjà en ligne, en grande partie sous forme de parodie.

Sur TikTok, il existe tout un genre de vidéos mettant en vedette M. Biden, M. Obama et M. Trump plaisantant de manière profane, avec l'audio généré par l'IA superposé comme commentaire lors de sessions de jeux vidéo en ligne imaginaires.

Sur "The Late Show", Stephen Colbert a récemment utilisé A.I. audio pour que l'animateur de Fox News, Tucker Carlson, "lise" à haute voix ses messages texte claquant M. Trump. M. Colbert a étiqueté l'audio comme A.I. et l'image à l'écran montrait un mélange du visage de M. Carlson et d'un cyborg Terminator pour l'accent.

Le provocateur de droite Jack Posobiec a diffusé le mois dernier une vidéo "deepfake" de M. Biden annonçant un projet national en raison du conflit en Ukraine. Il a été rapidement vu par des millions.

"Les vidéos que nous avons vues ces dernières semaines sont vraiment le canari dans la mine de charbon", a déclaré Hany Farid, professeur d'informatique à l'Université de Californie à Berkeley, spécialisé dans la criminalistique numérique. "Nous mesurons maintenant les progrès non pas en années mais en mois, et il reste de nombreux mois avant les élections."

Certains A.I. des outils ont été déployés en 2020. La campagne Biden a créé un programme, nommé Couch Potato, qui associait la reconnaissance faciale, la voix au texte et d'autres outils pour automatiser la transcription d'événements en direct, y compris les débats. Il a remplacé le travail d'une foule de stagiaires et d'aides, et était immédiatement consultable via un portail interne.

La technologie s'est améliorée si rapidement, a déclaré M. Woods, que les outils prêts à l'emploi sont « 1 000 fois meilleurs » que ce qui devait être construit à partir de zéro il y a quatre ans.

Une question qui se pose est de savoir ce que les campagnes peuvent et ne peuvent pas faire avec les puissants outils d'OpenAI. Une liste d'utilisations interdites l'automne dernier regroupées "campagnes politiques, contenu pour adultes, spam, contenu haineux".

Kim Malfacini, qui a aidé à créer les règles d'OpenAI et fait partie de l'équipe de confiance et de sécurité de l'entreprise, a déclaré dans une interview que "les campagnes politiques peuvent utiliser nos outils à des fins de campagne. Mais c'est l'utilisation à grande échelle que nous essayons d'interdire ici. OpenAI a révisé ses règles d'utilisation après avoir été contacté par le Times, précisant désormais qu'il est interdit de "générer de gros volumes de matériel de campagne".

Tommy Vietor, un ancien porte-parole de M. Obama, s'est essayé à l'IA. outil d'ElevenLabs pour créer un faux enregistrement de M. Biden appelant dans le podcast populaire "Pod Save America" que M. Vietor co-anime. Il a payé quelques dollars et a téléchargé un véritable audio de M. Biden, et il en est sorti une ressemblance audio.

"La précision était tout simplement incroyable", a déclaré M. Vietor dans une interview.

L'émission l'a clairement étiqueté comme A.I. Mais M. Vietor n'a pas pu s'empêcher de remarquer que certains commentateurs en ligne semblaient néanmoins confus. "J'ai commencé à jouer avec le logiciel en pensant que c'était tellement amusant, que ce serait un excellent véhicule pour les blagues", a-t-il déclaré, "et j'ai fini de penser, 'Oh mon Dieu, ça va être un gros problème.'"