Des trolls et des agitateurs racistes ont profité du drame survenu lors d'une compétition d'athlétisme à Frisco (https://www.cbsnews.com/texas/news/karmelo-anthony-suspect-in-fatal-frisco-track-meet-stabbing-released-on-bond/) pour diffuser de fausses informations en ligne et créer des vidéos truquées générées par intelligence artificielle.
Dans une vidéo générée par IA et publiée sur Instagram cette semaine, un extrait vidéo du présentateur de CBS News Texas, Doug Dunbar, a été manipulé pour lui faire dire quelque chose qu'il n'avait pas dit. La vidéo a également utilisé l'IA pour créer une image entièrement fausse du suspect, Karmelo Anthony (https://www.cbsnews.com/texas/news/karmelo-anthonys-parents-speak-publicly-fatal-stabbing-austin-metcalf/), un couteau à la main.
L'équipe de vérification de CBS News a indiqué qu'il était difficile de déterminer le nombre exact de vues de cette vidéo, mais qu'elle avait été republiée sur de nombreux comptes. La publication originale sur Instagram a depuis été supprimée.
Enquête sur la technologie des deepfakes
Depuis plus d'un an, l'équipe d'enquête de CBS News Texas enquête sur la technologie à l'origine des vidéos deepfake. Le professeur Christopher Meerdo, de l'Université du Nord du Texas à Denton, a déclaré à l'équipe d'enquête lors d'une interview en 2024 que les progrès technologiques facilitent la création de deepfakes. En effet, il est possible d'en créer un à partir d'une simple image fixe.
« Ces vidéos vont devenir exponentiellement meilleures », a affirmé Meerdo. « Les progrès de l'intelligence artificielle sont si rapides que les deepfakes deviendront plus convaincants, et les ensembles de données nécessaires pour obtenir un résultat vraiment précis seront encore plus réduits. »
Réseaux sociaux et désinformation
Plus tôt cette année, Mark Zuckerberg, PDG de Meta, a annoncé la fin du recours aux vérificateurs de faits sur ses plateformes Facebook et Instagram. Il compte désormais sur les utilisateurs pour signaler la désinformation via une fonctionnalité appelée « Notes de la communauté », similaire à celle utilisée par la plateforme sociale X d'Elon Musk.
Le Dr Daxton « Chip » Stewart, professeur de journalisme à l'Université chrétienne du Texas, spécialiste des réseaux sociaux et de la liberté d'expression, explique que si la propagation de la désinformation en ligne n'est pas un phénomène nouveau, les récents changements apportés par Meta ont, selon lui, exacerbé le problème.