Incidents associés
À quoi ressemble l'avenir des fake news ? Personne ne le sait vraiment, mais voici un petit échantillon de Jordan Peele et BuzzFeed, qui se sont associés pour créer le message d'intérêt public ci-dessus. En utilisant certaines des dernières techniques d'IA, Peele ventriloque Barack Obama, lui faisant exprimer son opinion sur Black Panther ("Killmonger avait raison") et appelle le président Donald Trump "une merde totale et complète".
La vidéo a été réalisée par la société de production de Peele en utilisant une combinaison d'anciennes et de nouvelles technologies : Adobe After Effects et l'outil d'échange de visage d'IA FakeApp. Ce dernier est l'exemple le plus frappant de la façon dont l'IA peut faciliter la création de fausses vidéos photoréalistes. Il a commencé sa vie sur Reddit en tant qu'outil pour créer de la fausse pornographie de célébrités, mais il est depuis devenu un symbole inquiétant du pouvoir de l'IA pour générer de la désinformation et de fausses nouvelles.
Oui, nous avons un logiciel pour créer des contrefaçons depuis un certain temps, mais l'IA facilite l'ensemble du processus. Les chercheurs ont développé des outils qui vous permettent d'effectuer des échanges de visage comme celui ci-dessus en temps réel ; Adobe crée un « Photoshop pour l'audio » qui vous permet d'éditer des dialogues aussi facilement qu'une photo ; et une startup canadienne nommée Lyrebird propose un service qui vous permet de simuler la voix de quelqu'un d'autre avec seulement quelques minutes d'audio. Le technologue Aviv Ovadya a résumé les craintes créées par cette technologie en demandant à BuzzFeed News : "Que se passe-t-il lorsque n'importe qui peut donner l'impression que quelque chose s'est passé, que ce soit le cas ou non ?"
Les scientifiques créent actuellement des outils capables de détecter les contrefaçons de l'IA, mais pour le moment, le meilleur bouclier contre ce type de désinformation est d'inculquer à chacun un peu plus de sens des médias. Si vous voyez une vidéo provocante, vous devez vous demander : d'où cela vient-il ? D'autres points de vente l'ont-ils corroboré? Cela a-t-il même l'air réel? Dans le cas des vidéos générées par l'IA, vous pouvez généralement voir qu'elles sont fausses par des signes révélateurs de distorsion et de flou.
Comme le dit "Obama" dans le message d'intérêt public : "Cela peut sembler basique, mais la façon dont nous avançons dans l'ère de l'information fera la différence entre notre survie ou notre devenir une sorte de dystopie foutue."