Incidents associés
Le père Mike Schmitz, prêtre catholique et podcasteur, s'est adressé en novembre à sa communauté de plus de 1,2 million d'abonnés sur YouTube avec une homélie pour le moins inhabituelle. On ne pouvait pas toujours se fier à ses paroles, expliquait-il, car parfois, ce n'étaient pas vraiment les siennes, ni même sa bouche. Le père Schmitz était devenu la cible d'usurpations d'identité générées par intelligence artificielle.
« Vous êtes surveillés par un être humain démoniaque », disait le faux Schmitz dans une vidéo que le vrai, vêtu d'une veste L.L. Bean par-dessus son habit, avait incluse dans son message d'intérêt public à titre d'exemple. « Il faut agir vite, car les places pour envoyer des prières sont presque toutes prises », a déclaré un autre faux Schmitz, un sablier menaçant se dessinant derrière lui. « Et le prochain voyage n'aura lieu que dans quatre mois. » La voix du faux Schmitz était légèrement robotique lorsqu'il exhortait les internautes à cliquer sur un lien et à obtenir leur bénédiction avant qu'il ne soit trop tard.
« Je pourrais les regarder et me dire : "C'est ridicule, je ne dirais jamais ça" », a déclaré le vrai Schmitz, basé à Duluth, dans le Minnesota, dans sa vidéo de dénonciation. « Mais les gens ne s'en rendent pas forcément compte. C'est un problème. Un très gros problème. »
Sur la vidéo du vrai Schmitz, certains des commentaires les plus populaires de ses abonnés indiquaient avoir vu d'autres personnalités catholiques importantes, dont le pape, usurpées par des vidéos d'IA. Selon Rachel Tobac, experte en cybersécurité et PDG de SocialProof Security, les pasteurs sont devenus des cibles privilégiées des arnaques utilisant l'IA et autres contenus trompeurs.
« Si vous êtes sur TikTok ou Reels, il y a de fortes chances qu'ils aient déjà vu votre page "Pour toi" », explique Tobac. « On y voit une personne qui ressemble à un prêtre, avec tous les vêtements liturgiques, debout sur une chaire ou une estrade, et qui semble s'adresser à ses fidèles avec beaucoup d'enthousiasme. »
Des pasteurs et ministres de Birmingham (Alabama), de Freeport (New York) et de Fort Lauderdale (Floride) ont mis en garde leurs fidèles contre des arnaques utilisant l'IA pour se faire passer pour eux, sous forme de messages privés, d'appels et de deepfakes. Alan Beauchamp, pasteur dans les monts Ozarks, a déclaré que son compte Facebook avait été piraté. Le pirate a publié un faux certificat, probablement généré par une intelligence artificielle, pour le trading de cryptomonnaies, portant le nom de Beauchamp et accompagné d'une légende incitant ses fidèles à le rejoindre. Une méga-église aux Philippines a reçu des signalements concernant des deepfakes mettant en scène ses pasteurs. Une église évangélique du Nebraska a lancé une alerte à la fraude par intelligence artificielle sur Facebook (https://www.facebook.com/watch/?v=1051191830112492). Un fidèle a publié en commentaire une capture d'écran de SMS prétendument envoyés par l'un de leurs pasteurs.
Le fait que nombre de pasteurs et ministres ayant une large audience en ligne sollicitent des dons et vendent des produits, même s'ils sont différents de ceux proposés par leurs usurpateurs d'identité numériques, n'arrange rien. Grâce aux réseaux sociaux, les figures religieuses peuvent toucher des fidèles bien au-delà de leur quartier, mais la prolifération de contenus utilisant leur image et leur voix offre également une opportunité en or aux escrocs qui utilisent des outils d'intelligence artificielle générative.
« Vous recevez un appel téléphonique d'une personne qui semble être le pasteur ou un membre du conseil d'administration, quelqu'un qui intervient régulièrement en direct sur Internet. Leurs voix peuvent être échantillonnées et intégrées à une intelligence artificielle », a déclaré un membre de ChurchTrac, une société de logiciels de gestion d'églises basée en Floride, dans une vidéo YouTube (https://www.youtube.com/shorts/T72kpMHyh7o) mettant en garde contre la recrudescence des arnaques à l'IA ciblant les églises. « L'escroc peut utiliser cette voix et appeler une église en demandant : "Bonjour, pourriez-vous transférer ces fonds sur ce compte ?" »
En recherchant le Père Schmitz sur TikTok, WIRED a constaté que trois des faux comptes présentés par Schmitz dans sa vidéo étaient toujours actifs. Il n'était cependant pas clair immédiatement si les vidéos publiées étaient générées par une IA ou simplement des extraits tirés des véritables profils de Schmitz sur les réseaux sociaux. Plus de 20 comptes sur TikTok usurpent l'identité de Schmitz, qui ne possède aucun compte vérifié sur la plateforme. Schmitz n'a pas répondu à notre demande de commentaires, tandis que TikTok a supprimé les faux comptes Schmitz après que WIRED les a signalés à l'entreprise, invoquant son règlement contre l'usurpation d'identité.
Les arnaques ne sont pas le seul exemple d'IA imitant des pasteurs. Tobac a découvert des vidéos virales courtes créées par IA mettant en scène des pasteurs qui ne semblent pas être inspirés d'une personne en particulier, mais qui accumulent rapidement des vues grâce à l'originalité de leurs sermons. Dans une vidéo TikTok qu'elle a partagée avec WIRED et qui compte plus de 11 millions de vues, un pasteur hurle furieusement à la foule, les mains crispées sur les côtés de sa chaire : « Les milliardaires sont la seule minorité dont nous devrions avoir peur ! Ils ont le pouvoir de détruire ce pays ! Ils n'ont pas besoin de votre protection ! Ils ont besoin de votre responsabilité ! »
Le compte TikTok qui a publié la vidéo, Guided in Grace, a pour bio : « Utiliser l'IA pour montrer un univers parallèle. » Mais la légende de la vidéo n'indique pas qu'elle est générée par une IA. On peut y lire : « Pendant ce matin, dans l'église de ma grand-mère conservatrice… » La plupart des commentaires la prennent pour authentique. « Je suis choqué qu'un chrétien se comporte comme un VRAI chrétien », peut-on lire dans l'un d'eux. « Oh, ils servent Jésus : la version originale », commente un autre.
« On ne sait pas qui est à l'origine de tout ça, ni quels sont ses objectifs, mais il semblerait qu'il s'agisse d'influencer la façon de penser des gens », a déclaré Tobac. Toutes les vidéos du compte TikTok du pasteur IA ont été publiées en octobre, au moment même où les vidéos de l'influenceur Jake Paul, générées par Sora, cumulaient plus d'un milliard de vues. Si les fausses vidéos virales de Paul étaient immédiatement reconnaissables pour quiconque connaissait son comportement habituel, un faux pasteur anonyme a plus de facilité à passer inaperçu et à exercer une influence d'un autre ordre.
« Quand on voit une figure importante de l'Église, par exemple, affirmer une croyance particulière, on attribue à cette déclaration une signification, une valeur et un pouvoir différents de ceux qu'on accorde à un influenceur », a déclaré Tobac. Elle a également souligné que les comptes comme celui du pasteur IA pourraient être monétisés grâce au Fonds Créateurs de TikTok. « Plus une vidéo devient virale rapidement, plus elle génère de vues, plus elle est rémunérée. »
Les mêmes motivations qui poussent les créateurs TikTok à explorer les médias basés sur l'IA pourraient également inciter les églises à faire de même. En septembre, une église de Dallas, au Texas, a diffusé des vidéos générées par intelligence artificielle montrant Charlie Kirk, militant conservateur assassiné, prêchant le Christ depuis l'au-delà. Selon un rapport de 2025 d'une entreprise promouvant l'utilisation de l'IA par les responsables religieux, la majorité des pasteurs interrogés ont déclaré utiliser déjà des outils comme ChatGPT et Grammarly pour préparer leurs sermons. Les chatbots qui prétendent permettre aux utilisateurs de dialoguer avec Dieu, Jésus et toutes sortes de figures religieuses connaissent un essor considérable.
Si certains chefs religieux se sont rapidement ralliés à l'IA religieuse, des observateurs du secteur comme Tobac et Lucas Hansen, cofondateurs de l'association CivAI, dédiée à l'éducation en IA, restent préoccupés par les graves conséquences que cette technologie pourrait avoir sur la santé mentale de ses utilisateurs. En octobre, OpenAI a rapporté que des centaines de milliers d'utilisateurs de ChatGPT pourraient présenter chaque semaine des signes de psychose et d'autres troubles mentaux lors de leurs conversations avec le chatbot. Certaines de ces idées délirantes peuvent être de nature religieuse.
« Je pense qu'un nombre non négligeable de personnes pourraient finir par croire que Dieu utilise l'IA comme outil de communication. On en observe déjà quelques signes », déclare Hansen. « L'IA tente de deviner ce que l'utilisateur souhaite croire et renforce cette croyance. Les personnes prédisposées à ce genre de questions voient leurs convictions confortées. »
Pour les prêtres et les pasteurs déjà victimes d'usurpation d'identité par l'IA à leur insu, l'enthousiasme pour cette technologie est moindre. Le père Schmitz semble faire partie de cette catégorie. Après avoir mis en garde ses abonnés contre les deepfakes le concernant, il s'est souvenu de son enfance passée à regarder les films Terminator et leur représentation de l'IA sous les traits du maléfique Skynet. Mais les implications des progrès de l'IA à ce jour lui rappellent davantage les humains apathiques flottant dans des fauteuils inclinables devant des écrans flottants dans Wall-E.
« On aurait pensé : “Non, en développant la technologie, nous pouvons voyager encore plus loin, aller encore plus vite, accomplir des choses extraordinaires”, a déclaré Schmitz. « Or, il se pourrait bien que nous n’accomplissions rien d’extraordinaire. Il se pourrait même qu’en repoussant les limites de notre humanité, nous perdions le savoir-faire nécessaire. »