Problème 3347

Des extraits « deepfakes » de Keir Starmer diffusés lors de la conférence travailliste ont déclenché des avertissements quant à la menace que représente l'intelligence artificielle (IA) pour la démocratie.

Un clip audio généré par l'IA du leader du Labour semblant réprimander un membre du personnel a déjà été visionné au moins 1,4 million de fois en ligne. Mais l’incident n’a pas eu lieu et l’audio n’est pas réel. Un autre faux clip suggérait que M. Starmer critiquait Liverpool, où se tient la conférence annuelle du parti.

Les deepfakes sont des vidéos, des images et des fichiers audio qui ont été manipulés numériquement pour donner l'impression que quelqu'un dit ou fait quelque chose qu'il n'a pas fait. La technologie est devenue plus sophistiquée avec le développement rapide de l’IA, ce qui rend parfois difficile la localisation.

L'informaticien Dame Wendy Hall, qui siège au Conseil gouvernemental de l'IA, a déclaré à Sky News : "La technologie permettant de manipuler la vidéo et l'audio existe depuis longtemps. Le fait est que maintenant qu'elle est facile à utiliser, elle est devenue suffisamment mature pour que il est téléchargeable à partir d'un certain nombre de sites Web.

La vidéo falsifiée a été publiée sur Twitter dimanche alors que le parti travailliste commençait sa conférence annuelle, signe de la menace politique que représente l'IA. Cela fait suite à une récente élection en Slovaquie, où un faux enregistrement audio a été diffusé de Michal Simecka, le chef du Parti progressiste slovaque, semblant discuter du trucage des élections avec un journaliste de premier plan. La conversation n’a jamais eu lieu, mais l’audio a été largement entendu en ligne.

Les militants syndicaux recevront une formation pour détecter les deepfakes et autres menaces potentielles à mesure que le parti renforcera ses compétences en matière de campagne numérique avant les élections. Rishi Sunak organisera le mois prochain un sommet mondial sur l'IA à Bletchley Park, domicile des décrypteurs britanniques pendant la Seconde Guerre mondiale.

Une série de hauts conservateurs ont abandonné les lignes de parti pour avertir les gens de ne pas publier ou amplifier les images. Le ministre de la Sécurité Tom Tugendhat a exprimé son inquiétude face aux clips, déclarant : « Les deepfakes menacent notre liberté. C'est pourquoi le groupe de travail pour la défense de la démocratie et le travail les efforts du Premier ministre en matière d'IA sont essentiels pour nous protéger tous".

L'ancien ministre du Cabinet, Simon Clarke, a demandé aux utilisateurs de Twitter de "l'ignorer". Il a ajouté : "Cela rappelle pourquoi le prochain sommet sur l'IA organisé par le Premier ministre est si important. Depuis les élections slovaques d'il y a quelques jours jusqu'à l'incident d'aujourd'hui, il s'agit d'une nouvelle menace pour la démocratie."

Un autre conservateur de premier plan, Matt Warman, a déclaré : « Les 30 dernières années de la vie publique ont vu un affaiblissement catastrophique de la confiance dans les institutions, pour de bonnes et de mauvaises raisons. Mais aujourd'hui, Sir [Keir Starmer](https://www.mirror.co.uk /all-about/keir-starmer) deepfake est un nouveau creux, suralimenté par l'IA et les médias sociaux. La démocratie est réellement menacée - la technologie pour vérifier le contenu est essentielle.