Incidents associés
Dans un récent rapport de la BBC, une campagne anonyme utilisant l'intelligence artificielle pour se faire passer pour l'ancien dirigeant du Soudan, Omar el-Béchir, a attiré une large attention sur TikTok, amplifiant la confusion en ligne dans un pays déjà aux prises avec la guerre civile. La campagne, baptisée « La Voix du Soudan », publie depuis fin août des « enregistrements divulgués » de Béchir, bien que l'authenticité de la voix soit mise en doute.
Alors que Béchir reste discret en raison de sa maladie et qu'il fait face à des accusations de crimes de guerre, les experts pensent qu'un logiciel de conversion vocale a été utilisé pour imiter sa voix. Certains enregistrements provenaient des émissions d'un commentateur politique soudanais aux États-Unis.
Le motif de cette campagne reste flou, mais elle pourrait viser à tromper le public en lui faisant croire qu'il est impliqué dans la guerre en cours ou à promouvoir un point de vue politique spécifique. TikTok a fermé le compte après avoir été contacté par la BBC, invoquant une violation de ses directives sur la publication de faux contenus et l'utilisation de médias synthétiques.
Pourquoi est-ce important ?
Cette campagne met en évidence la facilité avec laquelle de faux contenus peuvent être diffusés sur les réseaux sociaux, suscitant des inquiétudes quant au risque de désinformation et de troubles, comme l'indiquent des experts en IA. Français Détecter la désinformation audio est un défi, et la technologie permettant de repérer l'audio synthétique en est encore à ses balbutiements. Des cas réels se propagent dans le monde entier, comme le cas en Slovaquie, où des vidéos deepfakes avec des voix de politiciens générées par l'IA ont circulé avant les élections parlementaires. Alors que les pays sont aux prises avec ce problème, des sénateurs des deux partis politiques aux États-Unis ont uni leurs forces pour soutenir une législation visant à empêcher l'utilisation de l'IA pour produire des publicités politiques trompeuses pendant les élections fédérales.