Incidents associés
Après que les images de la dévastation causée par l'ouragan Helene ont commencé à se propager en ligne, une image d'un enfant en pleurs tenant un chiot sur un bateau a également fait son apparition. Certaines des publications sur X (anciennement Twitter) montrant l'image ont été vues des millions de fois.
Elle a suscité des réactions émotionnelles chez de nombreux utilisateurs, y compris de nombreux républicains désireux de critiquer la réponse de l'administration Biden à la catastrophe. Mais d'autres ont rapidement souligné des signes révélateurs indiquant que l'image avait probablement été réalisée avec des outils d'intelligence artificielle générative, tels que des membres malformés et un flou commun à certains générateurs d'images IA.
Au cours de ce cycle électoral, de telles images synthétiques générées par l'IA ont proliféré sur les plateformes de médias sociaux, souvent après des événements d'actualité à forte connotation politique. Les personnes qui suivent de près les plateformes en ligne et les élections disent que ces images sont un moyen de diffuser des récits partisans dont les faits sont souvent hors de propos.
Après que des utilisateurs de X ont ajouté une note communautaire signalant que l'image de l'enfant dans le bateau était probablement générée par l'IA, certains ayant partagé l'image, comme le sénateur Mike Lee (R-Utah), ont supprimé leurs publications à ce sujet, selon Rolling Stone.
Mais même après que la provenance synthétique de l'image a été révélée, d'autres ont réitéré leur insistance. "Je ne sais pas d'où vient cette photo et honnêtement, cela n'a pas d'importance." écrit Amy Kremer, membre du Comité national républicain représentant la Géorgie, sur X.
« C'est une forme de propagande politique, une façon de signaler l'intérêt et le soutien pour un candidat, presque comme dans un style fandom », a déclaré Renée DiResta, professeure à la McCourt School of Public Policy de l'Université de Georgetown, qui a récemment écrit un livre sur les influenceurs en ligne. « Les campagnes politiques peuvent alors le reprendre, le retweeter, le booster et sont alors considérées comme étant en quelque sorte au courant de la conversation, peut-être même de la blague. »
D'autres images probablement créées par l'IA et représentant des animaux sur des toits à peine au-dessus des eaux de crue se sont propagées après les ouragans Helene et Milton (https://www.npr.org/2024/10/03/nx-s1-5134866/rumors-conspiracy-theories-helene-social-media). Après que l'ancien président Trump et son colistier JD Vance ont amplifié les allégations sans fondement selon lesquelles les immigrants haïtiens de Springfield, dans l'Ohio, mangeaient des animaux domestiques et sauvages, des images générées par l'IA de Trump en train de câliner des chats et des canards ont inondé X et d'autres plateformes de médias sociaux populaires auprès des républicains.
L'IA générative est un outil supplémentaire permettant aux partisans d'interagir avec leurs campagnes en ligne, a déclaré DiResta. "C'est bon marché, c'est facile, c'est divertissant, alors pourquoi ne le feriez-vous pas ?"
La vérité contre les faits en images
Dans le même article défendant sa décision de maintenir l'image synthétique, Kremer a également écrit : "c'est emblématique du traumatisme et de la douleur que vivent les gens".
La séparation entre les faits et l’idée d’une vérité plus profonde trouve des échos dans la philosophie occidentale, explique Matthew Barnidge, professeur qui étudie les déserts d’information en ligne et la communication politique à l’Université d’Alabama. « Lorsque vous revenez en arrière et fouillez dans les œuvres de Kant, Kierkegaard et Hegel, [il y a] cette idée qu’il existe un type de vérité plus profonde qui est souvent associée à quelque chose comme la liberté ou le sublime, ou des concepts de ce genre ».
Pour être clair, lorsque les vérifications des faits individuelles s’accumulent contre les politiciens, les recherches suggèrent que cela peut changer l’opinion des électeurs à leur égard. Une étude a montré que les vérifications des faits ont effectivement changé l’opinion des Australiens à l’égard de leurs politiciens. Mais une autre étude a montré que la vérification des faits concernant Trump n'a pas changé l'opinion des Américains à son sujet, même si ces derniers ont changé leurs croyances sur des faits individuels.
La vérification des faits sur les images peut être plus délicate que sur le texte, a déclaré Emily Vraga, chercheuse en communication sur la santé à l'Université du Minnesota. « De nombreuses études montrent que les gens ont beaucoup de mal à distinguer le vrai du faux lorsqu'il s'agit d'images en ligne. » Selon Vraga, « c'était déjà vrai avant ChatGPT. »
Des images visuelles saisissantes peuvent susciter des émotions avant que les gens n'aient le temps de traiter ce qu'ils voient. Une équipe de chercheurs a examiné des publications Pinterest représentant des aiguilles de vaccin, qui incluent une image trompeuse avec une aiguille extra-large et un liquide aux couleurs vives.
"L'aiguille est beaucoup plus petite - ce n'est pas une correction très convaincante", a déclaré Vraga, "Cela fait partie du récit plus large selon lequel les vaccins ne sont pas naturels et dangereux".
Les images générées par l'IA hyperréalistes, souvent étranges, peuvent vivre dans un espace gris entre les faits et la fiction pour les spectateurs. Bien qu'une image photoréaliste de la pop star Taylor Swift soutenant Trump ne soit clairement pas Swift à y regarder de plus près, la ressemblance passagère a eu un impact sur les personnes qui l'ont vue, a déclaré l'historien de l'art de l'Université de New York Ara Merjian. "Cela n'aurait pas été un scandale si quelqu'un avait dessiné Taylor Swift dans une bande dessinée soutenant Trump".
La pop star a cité les images générées par l'IA et la « désinformation » comme l'une des raisons pour lesquelles elle a soutenu la vice-présidente Kamala Harris comme présidente.
Poussées par l'argent, les images générées par l'IA submergent les espaces en ligne
Les images générées par l'IA ont également en partie rempli l'espace laissé par les médias traditionnels, alors que l'industrie de l'information s'est réduite et que les plateformes technologiques ont dépriorisé l'information. « Qui s'installe dans cet espace ? Les propagandistes », a déclaré Barnridge. « La propagande ne se présente souvent pas comme une information, mais s'infiltre d'une autre manière à travers le contenu lifestyle. »
Les images d'inspiration politique ne sont qu'une fraction des images générées par l'IA sur les plateformes de médias sociaux. Des chercheurs ont repéré des gâteaux, des cuisines et des Jésus ressemblant à des crevettes générés par l'IA sortant de la mer. Certains ont conduit à des sites Web en compétition pour le trafic, d'autres ont tenté de soutirer aux internautes leurs informations personnelles et leur argent.
Une enquête menée par 404 Media a révélé que des habitants des pays en développement enseignent à d'autres personnes comment créer des publications tendance en utilisant des images générées par l'IA afin que Facebook les rémunère pour créer du contenu populaire. Les paiements peuvent être supérieurs au revenu mensuel local typique. De nombreuses images créées par ces fermes de contenu évoquent des émotions fortes, parfois patriotiques. Certaines images semblent réalistes, d'autres sont plus artistiques.
L’une des images les plus frappantes générées par l’IA liées à la politique a été promue par le propriétaire de X Elon Musk. Elle représentait une personne ressemblant à Harris portant un uniforme rouge avec un marteau et une faucille sur son chapeau.
Eddie Perez, un ancien employé de Twitter qui se concentre sur la confiance dans les élections à l’OSET Institute, une organisation à but non lucratif et non partisane, a déclaré que l’image visait à dépeindre Harris comme une personne anti-américaine. « Le message est qu’il n’y a aucun moyen légitime pour Kamala Harris et son parti de remporter une élection présidentielle. »
Des images comme celles-ci attisent la polarisation politique, ce qui, selon Perez, pourrait saper la confiance des gens dans les résultats des élections. Depuis des mois, les républicains suggèrent que les démocrates sont susceptibles de voler l’élection à Trump par divers types de subterfuges.
« Il existe de très nombreuses façons et modalités différentes de mettre en œuvre cette stratégie. L’IA générative n’est qu’un des nombreux outils de la boîte à outils, pour ainsi dire. Est-ce que je pense qu’elle est particulièrement mauvaise ou pire que beaucoup d’autres ? Non. Est-ce que cela signifie qu’elle est bénigne ? Non », a déclaré Perez.