Incidents associés
Un vent froid a soufflé sur la place Saint-Pierre au Vatican ce week-end, mais cela n'a pas dissuadé [le pape François](https://www.cbsnews.com/news/pope-francis-hospitalized-vatican- infection/) de se promener dehors pour saluer les fidèles, comme il le fait souvent. Lorsque des images sont apparues en ligne montrant le pontife de 86 ans enveloppé de manière atypique contre les éléments dans une élégante doudoune blanche et un crucifix orné de bijoux argentés, elles sont rapidement devenues virales, accumulant des millions de vues sur les plateformes de médias sociaux.
La photo, publiée pour la première fois vendredi sur Reddit avec plusieurs autres, était en fait un faux. Il s'agissait d'un rendu d'intelligence artificielle généré à l'aide du logiciel d'IA Midjourney.
De fausses photos générées par un logiciel d'intelligence artificielle semblent montrer le pape François marchant à l'extérieur du Vatican dans un manteau de marque, ce qu'il n'a jamais fait.
Bien qu'il y ait quelques incohérences dans les images finales rendues - par exemple, la main gauche du pape, où elle tient une bouteille d'eau, semble déformée et sa peau a un aspect trop net - de nombreuses personnes en ligne ont été trompées en pensant qu'elles étaient réelles. des photos.
La révélation selon laquelle ils avaient été trompés a laissé certains utilisateurs de Twitter choqués et confus.
"Je pensais que la doudoune du pape était réelle et je n'y ai pas réfléchi", a tweeté le mannequin et auteur Chrissy Teigen. "Je ne survivrai pas à l'avenir de la technologie."
Le « pape à la doudoune » n’était que la dernière d’une série d’images « deepfake » créées avec un logiciel d’IA. Un autre exemple récent concerne les photos de l'ancien président Donald Trump qui semblaient le montrer en garde à vue. Bien que le créateur ait clairement indiqué qu'elles avaient été produites dans le cadre d'un exercice d'utilisation de l'IA, les images, combinées aux [rumeurs sur l'arrestation imminente de Trump](https://www.cbsnews.com/news/ron-desantis-mike- pence-réagir-aux-atouts-réclamer-l'enfer-être-arrêté/), est devenu viral et a créé un récit entièrement frauduleux mais potentiellement dangereux.
Midjourney, DALL E2, OpenAI et Dream Studio font partie des options logicielles disponibles pour toute personne souhaitant produire des images photoréalistes en utilisant rien de plus que des invites textuelles --- aucune formation spécialisée n'est requise.
À mesure que ce type de logiciel se généralise, les développeurs d'IA travaillent sur de meilleurs moyens pour informer les spectateurs de l’authenticité, ou non, des images.
"Sunday Morning" de CBS News rapporté plus tôt cette année que le directeur scientifique de Microsoft, Eric Horvitz , le co-créateur du filtre anti-spam, faisait partie de ceux qui tentaient de résoudre l'énigme, prédisant que si la technologie n'était pas développée pour permettre aux gens de détecter facilement les contrefaçons d'ici une dizaine d'années, "la plupart de ce que les gens verront, ou une grande partie sera synthétique. Nous ne pourrons pas faire la différence.
Entre-temps, Henry Ajder, qui présente une série radiophonique de la BBC intitulée « L'avenir sera synthétisé », a averti dans une interview au journal qu'il était « déjà très, très difficile de déterminer si » certaines des images créées étaient réelles.
"Cela nous donne une idée de la manière dont de mauvais acteurs, des agents diffusant de la désinformation, pourraient transformer ces outils en armes", a déclaré Ajder au journal britannique I.
Il existe déjà des preuves claires que cela se produit.
En mars dernier, une vidéo est apparue montrant le président ukrainien Volodymyr Zelenskyy disant à ses troupes de déposer les armes et de se rendre. Il était de mauvaise qualité et a été rapidement dénoncé comme un faux, mais il se peut qu'il ne s'agisse que d'une première salve dans une nouvelle guerre de l'information.
Ainsi, même si une image vaut mille mots, il peut être utile de se demander qui parle réellement.