Incidents associés
TikTok et d'autres plateformes de médias sociaux hébergent des vidéos deepfake générées par intelligence artificielle, où des médecins sont manipulés pour vendre des compléments alimentaires et diffuser de fausses informations sur la santé.
L'organisation de vérification des faits Full Fact a mis au jour des centaines de ces vidéos (https://fullfact.org/health/academics-deepfaked-tiktok-wellness-nest/) mettant en scène des versions usurpées de médecins et d'influenceurs incitant les internautes à se tourner vers Wellness Nest, une entreprise américaine de compléments alimentaires.
Toutes ces vidéos deepfake utilisent de véritables images d'un expert de la santé, extraites d'Internet. Cependant, l'image et le son ont été retravaillés pour que les intervenants encouragent les femmes ménopausées à acheter des produits tels que des probiotiques et du shilajit de l'Himalaya sur le site web de l'entreprise.
Ces révélations ont suscité des appels à une plus grande vigilance de la part des géants des médias sociaux quant à l'hébergement de contenus générés par IA, et à une suppression plus rapide des contenus qui déforment les propos de personnalités influentes.
« Il s'agit assurément d'une nouvelle tactique sinistre et inquiétante », a déclaré Leo Benedictus, le vérificateur de faits qui a mené l'enquête, publiée vendredi par Full Fact.
Il a ajouté que les créateurs de vidéos de santé truquées utilisent l'intelligence artificielle pour faire croire qu'une personne respectée ou bénéficiant d'une large audience recommande ces compléments alimentaires pour traiter divers maux.
Le professeur David Taylor-Robinson, spécialiste des inégalités de santé à l'université de Liverpool, figure parmi les personnes dont l'image a été manipulée. En août, il a été choqué de découvrir que TikTok hébergeait 14 vidéos truquées le montrant en train de recommander des produits aux bienfaits non prouvés.
Bien que Taylor-Robinson soit spécialiste de la santé infantile, dans une vidéo, son double truqué évoquait un prétendu effet secondaire de la ménopause appelé « jambe thermomètre ».
Le faux médecin Taylor-Robinson recommandait aux femmes ménopausées de consulter le site Wellness Nest et d'y acheter un probiotique naturel contenant « 10 extraits de plantes scientifiquement validés, dont le curcuma, l'actée à grappes noires, le DIM (diindolylméthane) et le moringa, spécialement sélectionnés pour soulager les symptômes de la ménopause ».
Ses collègues féminines « témoignent souvent d'un sommeil plus profond, de bouffées de chaleur moins fréquentes et de réveils plus agréables en quelques semaines », ajoutait le faux médecin.
Le véritable Taylor-Robinson n'a découvert l'utilisation de son image que lorsqu'un collègue l'en a informé. « Au début, c'était vraiment déroutant, presque surréaliste », a-t-il déclaré. « Mes enfants ont trouvé ça hilarant. »
« Je ne me sentais pas profondément violée, mais j'étais de plus en plus agacée à l'idée que des gens puissent vendre des produits en s'appuyant sur mon travail et sur la désinformation sanitaire qui y est associée. »
Les images de Taylor-Robinson utilisées pour créer les vidéos truquées provenaient d'une conférence sur la vaccination qu'il avait donnée lors d'un congrès de Public Health England (PHE) en 2017, ainsi que d'une audition parlementaire sur la pauvreté infantile à laquelle il avait participé en mai dernier.
Dans une vidéo trompeuse, on le voyait proférer des injures et tenir des propos misogynes en parlant de la ménopause.
TikTok a supprimé les vidéos six semaines après la plainte de Taylor-Robinson. « Au départ, ils ont dit que certaines vidéos enfreignaient leur règlement, mais que d'autres étaient conformes. C'était absurde et bizarre, car j'apparaissais dans toutes ces vidéos et c'étaient toutes des deepfakes. » « C’était un vrai casse-tête de les faire supprimer », a-t-il déclaré.
Full Fact a découvert que TikTok diffusait également huit deepfakes contenant des déclarations manipulées de Duncan Selbie, l’ancien directeur général de PHE. Tout comme Taylor-Robinson, il était faussement filmé en train de parler de la ménopause, à partir d’une vidéo extraite du même événement de 2017 où Taylor-Robinson avait pris la parole.
Une autre vidéo, également consacrée à la « jambe thermomètre », était « une imitation bluffante », a déclaré Selbie. « C’est un faux de A à Z. Ce n’était pas drôle, car les gens ne prêtent pas attention à ce genre de choses. »
Full Fact a également découvert des deepfakes similaires sur X, Facebook et YouTube, tous liés à Wellness Nest ou à une filiale britannique du même nom, Wellness Nest UK. Cette dernière a publié des deepfakes de médecins de renom, tels que le professeur Tim Spector et le regretté Dr Michael Mosley, expert en nutrition.
Wellness Nest a déclaré à Full Fact que les vidéos deepfake incitant à visiter son site web étaient « totalement indépendantes » de son activité. L’entreprise a affirmé n’avoir « jamais utilisé de contenu généré par IA », mais « ne pas pouvoir contrôler ni surveiller ses filiales à travers le monde ».
Helen Morgan, porte-parole des Libéraux-démocrates pour la santé, a déclaré : « Des faux médecins aux bots incitant au suicide, l’IA est utilisée pour exploiter la vulnérabilité de personnes innocentes et les failles croissantes de notre système de santé. »
Les Libéraux-démocrates demandent l'éradication des deepfakes (expériences de réalité augmentée) générés par l'IA et se faisant passer pour des professionnels de santé. Ils s'engagent à promouvoir activement des outils cliniquement validés afin de combler ce manque.
« Si des individus usurpaient frauduleusement l'identité de médecins, ils seraient poursuivis en justice. Pourquoi tolère-t-on l'équivalent numérique ? »
« Lorsqu'une personne sollicite des conseils de santé auprès d'un chatbot, elle devrait être automatiquement orientée vers les services de santé publique afin d'obtenir le diagnostic et le traitement dont elle a réellement besoin. Les personnes tirant profit de la désinformation médicale devraient être passibles de poursuites judiciaires. »
Un porte-parole de TikTok a déclaré : « Nous avons supprimé ce contenu [concernant Taylor-Robinson et Selbie] car il enfreignait notre règlement contre la désinformation et les comportements visant à induire notre communauté en erreur, comme l'usurpation d'identité. »
« La diffusion de contenus trompeurs générés par l'IA est un problème qui touche l'ensemble du secteur, et nous continuons d'investir dans de nouvelles méthodes pour détecter et supprimer les contenus qui enfreignent notre règlement. »
Le ministère de la Santé et des Affaires sociales a été sollicité pour un commentaire.