Incidents associés
Les observateurs de l'actualité n'ont pas à attendre de vraies images de [Donald Trump menotté](https://www.thedailybeast.com/donald-trump-claims-hell-be-arrested-tuesday-urges-protests-to-take- notre-nation-back) - les deepfakes inondent déjà les médias sociaux grâce à [la technologie d'intelligence artificielle] (https://www.thedailybeast.com/the-real-future-of-deepfake-media) qui permet à tout canular de se faire passer pour un photographe de dernière minute.
Trump a annoncé samedi matin qu'il s'attendait à être arrêté mardi pour des accusations liées à un paiement silencieux à la star de cinéma pour adultes [Stormy Daniels](https://www.thedailybeast.com/why-did-the-trump-stormy- cas-daniels-passe-soudainement-de-zéro-à-60). On ne sait pas si Trump sera inculpé, et encore moins conduit en prison avec des menottes. Mais des programmes d'IA comme Midjourney ont permis aux fans et aux ennemis de Trump de générer facilement des images réalistes de sa marche perp.
"Malheureusement, ces outils de création d'images réalistes sont très utiles pour tromper le public", a déclaré Joan Donovan, chercheuse à l'Université de Harvard et auteur du livre Meme Wars au Daily Beast. "Nous assistons à une nouvelle forme de" désinformation anticipée ", où les rumeurs deviennent réalité grâce à la création de médias couvrant des événements qui ne se sont jamais produits."
"BREAKING", a écrit un utilisateur de Twitter quelques heures après l'annonce de Trump samedi. « Le FBI effectue une descente sur Mar A Lago pour faire arrêter Trump. Photos exclusives.
Les images qu'il a téléchargées étaient cinématographiques. Des agents prennent d'assaut la station balnéaire de Trump en Floride en tenue anti-émeute, courant sous des lustres en or avec des fusils tirés. Seuls certains des officiers semblaient inhabituels au deuxième coup d'œil. L'un avait un visage curieusement pixélisé, un autre avec des doigts trapus comme des pattes de chien. Les images ont été générées par AI, par un utilisateur de Twitter qui a également partagé des images générées par ordinateur de la représentante Alexandria Ocasio-Cortez en train de cosplayer et du président Joe Biden participant à un rituel occulte avec des cornes de chèvre.
Il a également partagé l'une des nombreuses fausses images d'agents tirant Trump vers un fourgon de police en attente. Ces images, et des variations similaires de l'IA par d'autres provocateurs, se sont rapidement propagées depuis Twitter (https://twitter.com/PappyKorn/status/1637862397158252565) vers des sites comme 4chan et YouTube, où les chaînes de "dernières nouvelles" ont utilisé l'image comme image. image miniature sur leurs vidéos. ("Où Trump a-t-il été arrêté?" s'est plaint un commentateur de YouTube. "Clickbait.")
"Très bientôt, des images comme celle-ci seront partout sur les réseaux sociaux... et elles seront BEAUCOUP meilleures."
Certains artistes de l'IA ont admis que leurs images étaient des dupes - finalement. "Putain de merde, ils l'ont fait", a écrit un utilisateur qui a partagé sa propre photo d'une promenade de Trump, avant de partager des images d'IA de plus en plus invraisemblables de Trump méditant en prison, brandissant une épée et se tenant au sommet du Capitole avec un dragon.
"Si cela vous a trompé, vous n'êtes pas prêt pour l'avenir", a-t-il écrit à propos de la première image. "Très bientôt, des images comme celle-ci seront partout sur les réseaux sociaux... et elles seront BEAUCOUP meilleures."
Les générateurs d'art et de texte d'IA ont gagné en popularité ces derniers mois, avec des programmes comme Midjourney permettant aux utilisateurs de créer des images réalistes basées sur des invites de texte comme "Trump se fait arrêter par le FBI". Et bien que ces programmes soient loin d'être parfaits (beaucoup ont encore du mal à dessiner des mains humaines qui ne ressemblent pas à un cauchemar lovecraftien), ils s'améliorent. La semaine dernière, Midjourney a dévoilé sa dernière version, qui peut restituer des images étonnamment réalistes, y compris des mains d'apparence normale.
Deux jours avant l'annonce de Trump, le journaliste Eliot Higgins a testé la nouvelle mise à jour de Midjourney en demandant au programme de générer des images de politiciens dans des scénarios dramatiques : Joe Biden et Vladimir Poutine tenant des pourparlers de paix ukrainiens, Poutine en combinaison de prison et Trump se faisant arrêter. Higgins a même donné l'impression que les dupes de Trump étaient des captures d'écran d'une émission d'actualités en ajoutant des "images d'actualités" à l'invite Midjourney.
Bien que Trump n'ait pas été arrêté ou inculpé, les fausses images se sont révélées populaires à droite et à gauche, les opposants de Trump applaudissant l'idée de l'ex-président en prison et les partisans de Trump se ralliant à leur chef qui n'a pas été arrêté.
D'autres contrefaçons générées par ordinateur ont déjà mis des mots dans la bouche des politiciens. Une vidéo virale deepfake de Biden prétendait montrer le président annonçant un projet d'Américains pour combattre en Ukraine. Un tel projet n'existe pas.