Incidents associés
Partie recadrée d'une image générée par l'IA du pape François portant une doudoune devenue virale en mars 2023.
Après une image réaliste générée par l'IA du pape François dans une doudoune [est devenue virale sur les réseaux sociaux](https://arstechnica.com/information-technology/2023/03/the-power-of-ai-compels-you- pour-croire-cette-fausse-image-du-pape-dans-un-manteau-gonflé/) l'année dernière, le pape lui-même en a apparemment pris note, rapporte [Reuters](https://www.reuters.com/world/ le pape-francois-victime-ai-met en garde-contre-ses-dangers-pervers-2024-01-24/). Dans un message pour la 58e Journée mondiale des communications sociales, François écrit : "Il suffit de penser au problème de longue date de la désinformation sous la forme de fausses nouvelles, qui peuvent aujourd'hui recourir aux "deepfakes", à savoir la création et la diffusion d'images qui semblent parfaitement plausibles mais fausses (j'ai moi aussi été l'objet de cette affaire). )."
Le Pape met également en garde contre les messages audio qui « utilisent la voix d'une personne pour dire des choses que [cette personne n'a jamais dites](https://arstechnica.com/information-technology/2023/01/microsofts-new-ai-can-simulate- la voix de n'importe qui avec 3 secondes d'audio/)", poursuit-il. "La technologie de simulation derrière ces programmes peut être utile dans certains domaines précis, mais elle devient perverse lorsqu'elle déforme notre rapport aux autres et à la réalité."
En mars 2023, un utilisateur de Twitter nommé « skyferrori » a utilisé le service de synthèse d'images Midjourney v5 pour créer une fausse photo convaincante du pape François portant une longue doudoune blanche et [l'a publiée sur le service](https://x.com/ skyferrori/status/1639647708154675200?s=20). Il est rapidement devenu viral et compte aujourd’hui plus de 197 000 likes et 28,1 millions de vues. Beaucoup de gens pensaient qu’il s’agissait d’une vraie photo, et elle était remarquable à l’époque pour être l’une des premières images générées par l’IA à tromper un large public en ligne.
"J'avais cette discussion avec un ami, et je vais être honnête, je ne pensais pas que c'était faux", a écrit un commentateur nommé "[thrillgore](https://arstechnica.com/civis/threads/the- le pouvoir-de-l'IA-vous-oblige-à-croire-cette-fausse-image-du-pape-dans-un-manteau-gonflé.1490975/page-3#post-41743128)" sur les forums Ars Technica au temps. "Je pensais que c'était authentique même si j'avais lu plus tôt dans la journée que le pape François était un type économe et n'exhibait pas la richesse du Vatican... C'était drôle hier, maintenant c'est absolument horrible."
Depuis le lancement de Stable Diffusion en 2022, nous avons fréquemment parlé des deepfakes et des inquiétudes à leur sujet saper la confiance sociale , réduire la qualité des informations en ligne en injectant du bruit , alimentant le harcèlement en ligne , et éventuellement perturber le dossier historique. C'est un problème non résolu, avec une technologie de filigrane souvent jugée peu fiable et projets de marquage de métadonnées [pas encore largement pris en charge](https://arstechnica.com/information-technology/2023/10/adobe-launches-new-symbol-to-tag-ai-generated-content-but-will-anyone -utilisez-le/2/). Fondamentalement, notre capacité à faire confiance à ce que nous voyons en ligne dépendra de la confiance que nous accorderons au messager.
"Le développement des systèmes d'intelligence artificielle, auquel j'ai consacré mon récent [Message pour la Journée mondiale de la paix](https://arstechnica.com/information-technology/2023/08/even-the-pope-is-worried -sur-l'IA et ses-possibilités-de rupture/), affecte radicalement le monde de l'information et de la communication et, à travers lui, certains fondements de la vie en société", prévient le Pape. "Ces changements affectent tout le monde, pas seulement les professionnels de ces domaines. La diffusion rapide d'innovations étonnantes, dont le fonctionnement et le potentiel dépassent la capacité de la plupart d'entre nous à comprendre et à apprécier, s'est avérée à la fois passionnante et désorientante."