Incidents associés
Plus de 100 publicités vidéo deepfake se faisant passer pour Rishi Sunak (https://www.theguardian.com/politics/rishi-sunak) ont été payées pour être promues sur Facebook au cours du seul mois dernier, selon une étude qui a tiré la sonnette d’alarme sur le risque que représente l’IA avant les élections générales.
Les publicités pourraient avoir atteint jusqu’à 400 000 personnes – bien qu’elles semblent enfreindre plusieurs des politiques de Facebook – et marquent la première fois que l’image du Premier ministre est falsifiée de manière systématique et massive.
Plus de 12 929 £ ont été dépensées pour 143 publicités, provenant de 23 pays, dont les États-Unis, la Turquie, la Malaisie et les Philippines.
Il y a notamment une vidéo truquée d’une présentatrice de la BBC, Sarah Campbell, semblant lire des informations de dernière minute qui prétendent à tort qu’un scandale a éclaté autour de Sunak qui aurait secrètement gagné « des sommes colossales grâce à un projet initialement destiné aux citoyens ordinaires ».
L’article prétend à tort qu’Elon Musk a lancé une application capable de « collecter » les transactions boursières et est suivi d’un clip truqué de Sunak affirmant que le gouvernement avait décidé de tester l’application plutôt que de risquer l’argent des gens ordinaires.
Les clips mènent ensuite à une page d’information de la BBC parodiée faisant la promotion d’un investissement frauduleux.
L’étude a été réalisée par Fenimore Harper, une société de communication créée par Marcus Beard, un ancien fonctionnaire de Downing Street qui a dirigé la réponse du 10 Downing Street pour contrer les théories du complot pendant la crise du Covid.
Il a averti que les publicités, qui marquent un changement dans la qualité des fausses publicités, montraient que les élections de cette année risquaient d’être manipulées par une grande quantité de fausses informations de haute qualité générées par l’IA.
« Avec l’avènement du clonage de voix et de visage bon marché et facile à utiliser, il faut très peu de connaissances et d’expertise pour utiliser l’image d’une personne à des fins malveillantes. »
« Malheureusement, ce problème est exacerbé par des politiques de modération laxistes sur la publicité payante. Ces publicités sont contraires à plusieurs des politiques publicitaires de Facebook. Cependant, très peu des publicités que nous avons rencontrées semblent avoir été supprimées. »
Meta, propriétaire de Facebook, a été contacté pour commenter.
Un porte-parole du gouvernement britannique a déclaré : « Nous travaillons intensivement avec l’ensemble du gouvernement pour nous assurer que nous sommes prêts à répondre rapidement à toute menace contre nos processus démocratiques, par l’intermédiaire de notre groupe de travail sur la défense de la démocratie et d’équipes gouvernementales dédiées.
« Notre loi sur la sécurité en ligne va plus loin en imposant de nouvelles exigences aux plateformes sociales pour supprimer rapidement les fausses informations et la désinformation illégales – y compris lorsqu’elles sont générées par l’IA – dès qu’elles en ont connaissance. »
Un porte-parole de la BBC a déclaré : « Dans un monde où la désinformation est de plus en plus présente, nous exhortons tout le monde à s’assurer qu’il s’informe auprès d’une source fiable. Nous avons lancé BBC Verify en 2023 pour répondre à la menace croissante de la désinformation, en investissant dans une équipe hautement spécialisée dotée d'une gamme de renseignements médico-légaux et de sources ouvertes (OSINT) pour enquêter, vérifier les faits, vérifier les vidéos, contrer la désinformation, analyser les données et expliquer des histoires complexes.
« Nous instaurons la confiance avec le public en montrant comment les journalistes de la BBC connaissent les informations qu'ils rapportent et en proposant des explications sur la façon de repérer les contenus faux et deepfake. Lorsque nous prenons connaissance de contenus faux de la BBC, nous agissons rapidement. »
Les régulateurs craignent que le temps presse pour mettre en œuvre des changements radicaux afin de garantir que le système électoral britannique suive le rythme des progrès de l’intelligence artificielle avant les prochaines élections générales, qui devraient avoir lieu en novembre](https://www.theguardian.com/politics/2024/jan/11/general-election-likely-to-take-place-on-14-november-says-george-osborne).
Le gouvernement a tenu des discussions avec les régulateurs, notamment la Commission électorale, qui affirme que les nouvelles exigences prévues par la législation de 2022 pour que le matériel de campagne numérique inclue une « empreinte », contribueront dans une certaine mesure à garantir que les électeurs puissent voir qui a payé pour une publicité ou qui essaie de les influencer.
Un porte-parole de Meta a déclaré : « Nous supprimons le contenu qui enfreint nos politiques, qu’il ait été créé par l’IA ou par une personne. La grande majorité de ces publicités ont été désactivées avant la publication de ce rapport et le rapport lui-même indique que moins de 0,5 % des utilisateurs britanniques ont vu une publicité individuelle qui a été mise en ligne.
« Depuis 2018, nous offrons une transparence de pointe pour les publicités sur les questions sociales, les élections ou la politique, et nous continuons à améliorer ces efforts. »