Incidents associés
Joseph Allen, optométriste, est bien connu des conférences, des réseaux sociaux et de sa chaîne YouTube, Dr. Eye Health, où il informe ses abonnés sur divers sujets liés à la santé oculaire. Cependant, sa notoriété a eu un revers lorsqu'il a découvert sur les réseaux sociaux des vidéos le représentant de façon fictive, diffusant de fausses informations et vendant des produits contrefaits. Le Dr Allen a été victime d'une escroquerie par deepfake (ou deepfake généré par l'IA) (https://www.aoa.org/news/clinical-eye-care/public-health/living-an-episode-of-black-mirror-ai-deepfakes-target-optometrist).
Les deepfakes et les vidéos de mauvaise qualité, générés par l'IA, ciblent de plus en plus les médecins. Ces vidéos usurpent leur identité afin de créer du contenu facile à produire, piloté par des algorithmes, et susceptible de diffuser de dangereuses informations erronées sur la santé. Les deepfakes sont des contenus manipulés ou fabriqués par l'IA qui usurpent l'identité d'une personne réelle dans le but de diffuser des informations malveillantes ou mensongères.
Les vidéos truquées par l'IA sont des contenus vidéo produits à grande échelle par l'IA qui exploitent les algorithmes d'engagement des réseaux sociaux et inondent des plateformes comme YouTube, TikTok ou Instagram, éclipsant ainsi les créateurs de contenu originaux. Le Dr Allen a constaté : « Dans certaines de ces vidéos, on vous incite à ne pas consulter votre ophtalmologiste et on prétend que toute notre profession est une arnaque. »
Avec l'aide d'un avocat, le Dr Allen a contesté les deepfakes ciblant sa chaîne. Il lui a fallu un mois pour accéder à TikTok, où il a découvert la supercherie, puis trois semaines supplémentaires pour prouver qu'il était bien le « Dr. Eye Health ». Un compte a été supprimé, mais en deux ou trois heures, les escrocs en ont créé un nouveau et ont republié tout le contenu précédent. Dans le cas du Dr Allen, le produit vendu dans cette arnaque était un collyre censé guérir la myopie. Les gouttes ont été retracées jusqu'à une entreprise chinoise vendant des millions de dollars de produits sur Amazon. Leur composition reste inconnue.
Le Dr Allen recommande de rechercher des signes révélateurs de vidéos générées par IA, en gardant à l'esprit qu'avec les progrès de l'IA, ces signes peuvent devenir plus subtils, voire disparaître. Examinez attentivement le contenu vidéo à la recherche de montages étranges : les lèvres du sujet sont-elles synchronisées avec la voix et l'audio ? Cligne-t-il des yeux de façon excessive ou insuffisante ? Si le produit semble trop beau pour être vrai, il l'est probablement. Soyez vigilant et faites preuve de prudence face à ce type de contenu.
L'image paraît-elle naturelle ? Les deepfakes ont encore du mal à reproduire un éclairage naturel et peuvent donner une impression artificielle au sujet en raison d'un décalage entre les conditions d'éclairage ou les reflets. D'autres indices sont disponibles auprès des chercheurs du MIT (https://www.media.mit.edu/projects/detect-fakes/overview/), notamment des informations sur les yeux et les sourcils, le clignement des yeux et les reflets sur les lunettes. À mesure que l'IA brouille les frontières entre réalité et fiction, la responsabilité incombe à la pensée critique individuelle concernant le contenu médiatique.