Problème 6863

En octobre, le député conservateur George Freeman a été submergé de messages d'amis et de collègues l'accusant de trahison. « Ils m'insultaient copieusement, disant : "Je n'aurais jamais cru que tu nous ferais ça." Je ne comprenais pas ce qui se passait », a-t-il déclaré.

« Puis j'ai vu la vidéo. On me voyait dans mon bureau au Parlement, en débardeur, gesticulant, parlant comme d'habitude, et déclarant qu'après 20 ans, j'en avais assez du Parti conservateur, que c'était une organisation en faillite, un parti défaillant, et que je rejoignais Reform. »

La vidéo, diffusée sur Facebook et X, était un deepfake réalisé grâce à l'intelligence artificielle pour faire croire que l'ancien ministre des Technologies annonçait son ralliement au parti de Nigel Farage. « Elle est devenue virale », a ajouté le député de Mid Norfolk.

« On travaille si dur pour se forger une réputation et en 15 secondes, quelqu'un peut anéantir votre carrière. »

George Freeman, député

« J'ai été agressé par trois adolescents dans un passage souterrain à White City et j'ai ressenti la même chose. En politique, on travaille si dur pour se construire une réputation, pour exprimer ses opinions et choisir ses mots avec soin. Et en 15 secondes, un inconnu, bien à l'abri de l'anonymat, peut détruire votre carrière sans que vous puissiez vous en remettre. »

Freeman a contacté Meta, propriétaire de Facebook. « Ils m'ont répondu : "Cela ne contrevient à aucune de nos règles." Je comprends que ce n'est ni de l'abus sexuel, ni du terrorisme violent, ni de l'extrémisme, mais c'est très grave lorsqu'un élu est délibérément et malicieusement usurpé de son identité. »

Il a également signalé la fausse vidéo à la police et a constaté qu'« aucune loi n'interdit d'utiliser l'identité de quelqu'un de cette manière ».

Freeman discute actuellement avec Lindsay Hoyle, le président de la Chambre des communes, et d'autres députés de tous les partis sur la manière d'interdire les deepfakes politiques. « Ce n'est pas une question propre aux conservateurs. Nous avons tous intérêt à protéger l'intégrité du processus démocratique », a-t-il déclaré. « Il est essentiel qu'en politique, la satire ait une longue et fière tradition. Je m'en réjouis, mais la situation actuelle est différente.

« Imaginez une vidéo diffusée la veille d'une élection, présentant une personne sous un faux jour, et les électeurs qui se disent : « Je ne voterai pas pour lui, c'est une honte ! » La démocratie serait alors complètement corrompue. »

Partout dans le monde, les deepfakes politiques prolifèrent. Le mois dernier, un faux reportage affirmant qu'un coup d'État avait eu lieu en France est devenu viral. Il était si convaincant qu'Emmanuel Macron a été contacté par un chef d'État africain qui lui demandait ce qui était arrivé à son gouvernement.

En octobre, quelques jours avant l'élection présidentielle irlandaise, une vidéo est apparue en ligne, prétendant montrer l'une des candidates, Catherine Connolly, annonçant son retrait de la course. Mme Connolly a finalement remporté l'élection, mais a qualifié le deepfake de « tentative honteuse de tromper les électeurs et de saper notre démocratie ».

Le premier tour de l'élection présidentielle roumaine s'est tenu en novembre. L'élection présidentielle de 2024 a été annulée suite à des informations crédibles faisant état d'ingérence russe via des vidéos truquées (deepfakes). La Moldavie a été inondée de deepfakes avant des élections cruciales de l'année dernière, perçues comme un choix entre l'Est et l'Ouest.

Le Premier ministre, Keir Starmer, le maire de Londres, Sadiq Khan, et le ministre de la Santé, Wes Streeting, ont tous été ciblés.

Le problème est encore plus grave pour les femmes politiques dont les images sont manipulées par intelligence artificielle pour créer des deepfakes pornographiques. À l'approche des élections générales britanniques de l'année dernière, des photos retouchées numériquement de plus de 30 candidates, dont Angela Rayner, ancienne vice-présidente du Parti travailliste, et Priti Patel, ministre des Affaires étrangères du cabinet fantôme, sont apparues sur un site web à caractère sexuel explicite.

Jess Asato, députée travailliste de Lowestoft, a déclaré : « Il est nécessaire d'ouvrir un débat sur les limites de la liberté d'expression, mais la représentation sexualisée des personnalités politiques est tout simplement inacceptable. » « Je m’inquiète de la rapidité et de la facilité avec lesquelles on peut produire du contenu totalement faux. »

« C’est clairement une voie d’ingérence étrangère, mais il pourrait tout aussi bien s’agir d’une personne isolée, installée dans son garage, créant des deepfakes de quelqu’un qu’elle n’apprécie pas. »

Vijay Rangarajan, directeur général de la Commission électorale

La Commission électorale, organisme indépendant chargé de superviser les élections, est tellement préoccupée par cette menace potentielle qu’elle met en place une nouvelle unité en prévision des élections locales, écossaises et galloises cruciales de mai, afin d’identifier et de supprimer les deepfakes politiques.

Ce système, développé en collaboration avec le ministère de l’Intérieur, analysera et surveillera les réseaux sociaux, notamment Facebook, X, TikTok et Instagram. Il sera capable de repérer les contenus falsifiés générés par l’IA, aussi bien en gallois qu’en anglais.

Lorsqu’un deepfake sera signalé, la Commission en informera immédiatement les plateformes et tentera de faire supprimer la publication. Les candidats et les partis seront également avertis. Les personnalités politiques pourront contacter la Commission pour obtenir de l’aide s’ils découvrent un deepfake. Circulant en ligne.

Vijay Rangarajan, directeur général de la commission, a déclaré que la difficulté à réaliser ces vidéos avait considérablement diminué grâce à la large diffusion des technologies d'intelligence artificielle. « Il s'agit clairement d'une voie d'ingérence étrangère, mais il pourrait tout aussi bien s'agir d'une personne lambda, assise dans son garage, créant des deepfakes de quelqu'un qu'elle n'apprécie pas », a-t-il affirmé. « La loi doit s'adapter à l'évolution constante de ces menaces. »

Un sondage de la Commission électorale a révélé qu'un quart des électeurs ont déclaré avoir été exposés à une vidéo, un enregistrement audio ou une photo truquée (deepfake) lors des dernières élections générales. « La confiance dans la politique est très faible », a déclaré M. Rangarajan. « Si ce phénomène n'est pas contrôlé, il risque d'alimenter un climat de méfiance et, par ignorance, de dissuader les électeurs de voter. »

Il a insisté sur la détermination de la commission à agir de manière proactive face à ce problème croissant. « Nous avons constaté son utilisation lors d'élections à travers le monde pour tromper les électeurs. Notre objectif est donc d'anticiper ce problème. » Nous l'avons détecté au Royaume-Uni. En informant le public de sa présence et en menant des recherches approfondies, nous espérons dissuader son utilisation.

« Nous veillerons à ce que cela ne devienne pas une menace pour la démocratie. Nous ne pensons pas que cela ait influencé les résultats des élections britanniques et nous voulons que cela reste ainsi. »

Illustration par Observer Design