Problème 2810

Sous le soleil de Catford, dans le sud-est de Londres, les pots de plantes volent alors que Idris Elba et sa voisine Kim Kardashian sont à couteaux tirés sur le jardin commun de leurs maisons mitoyennes.

Sur l'île de Wight, l'éducatrice de jeunesse Olivia Colman et son mari étudiant mûr Jay-Z partagent un amour pour la danse en ligne et leur chat, Cabbage, mais pas le domaine prétentieux agent, Tom Hiddleston, à côté.

L'infirmière stagiaire Andy Murray et sa mère, une Lorraine Kelly fortement tatouée, ont des problèmes de frontière avec le coq bruyant du voisin RuPaul dans leur village endormi des Cotswolds ; tandis qu'Adele - une gardienne nouvellement célibataire qui a déménagé dans un semi-remorque de Coventry - déteste la façon dont les pigeons ruinent les accessoires de jardin qu'elle aime acheter sur Shopping Channel.

Si tout cela ressemble aux ingrédients d'un cauchemar de banlieue prolongé, c'est tout à fait l'intention d'une nouvelle série ITV qui constitue la première série comique "deepfake" au monde.

Deep Fake Neighbor Wars utilise une technologie de pointe « deepfake » pour transposer des célébrités glamour dans des environnements infiniment moins glamour, faisant des travaux piétonniers et vivant dans des maisons ordinaires.

Le spectacle est une série de sketches comiques prolongés dans lesquels les visages des célèbres sont greffés numériquement sur des acteurs imitant leurs voix et leurs manières.

À première vue, la magie informatique est à la fois surprenante et troublante – les acteurs ressemblent vraiment à ces stars, même s'ils ne sonnent pas toujours exactement comme eux.

Mais tout comme le potentiel du deepfake suscite une excitation fébrile dans l'industrie du divertissement, il inquiète de plus en plus les politiciens et les experts en sécurité qui voient le danger - en particulier dans la diffusion de fausses nouvelles - dans une technologie qui peut donner l'impression que quelqu'un a dit ou fait n'importe quoi.

Les pays hostiles, ou d'autres ayant des intentions malveillantes, pourraient même l'utiliser pour saper les institutions démocratiques et la sécurité nationale.

Que pourrait-il arriver, par exemple, si ce n'était pas l'effondrement d'Idris Elba avec un voisin simulé, mais un dirigeant mondial menaçant un autre pays ou fustigeant un allié – dans une vidéo, par exemple, qui apparaît la veille d'une élection générale. Ou un chef de police disant quelque chose de profondément raciste après qu'un homme noir vient d'être tué. Du coup, ce n'est plus du tout drôle.

Certains voient la menace d'une immense perturbation sociale et même la «fin de la vérité» alors que les logiciels de contrefaçon deviennent immensément sophistiqués et si répandus qu'ils peuvent être téléchargés sur un téléphone mobile.

Dans un monde de plus en plus polarisé qui avait déjà assez de mal à se mettre d'accord sur quoi que ce soit, nous ne pourrons peut-être bientôt plus nous fier à nos yeux et à nos oreilles, et encore moins les uns aux autres. Pour aggraver les choses, comme cela se produit généralement avec la technologie galopante, il existe très peu de lois pour nous protéger.

Deep Fake Neighbor Wars n'est pas aussi impressionnant que la série de courtes vidéos YouTube deepfake de Tom Cruise qui a commencé à apparaître il y a trois ans.

Le spécialiste des effets visuels Chris Ume s'est associé au sosie de Tom Cruise, Miles Fisher, pour produire une vidéo de Deepfake Cruise annonçant qu'il se présente à la présidence.

Un an plus tard, Fisher a commencé à publier des vidéos sur son propre compte TikTok. Sa première vidéo, dans laquelle il joue au golf en tant que Cruise, a amassé quatre millions de vues en moins de deux jours, tandis que dans une autre, sa "DeepTomCruise" câline la vraie Paris Hilton. Pour beaucoup, les vidéos de Fisher étaient une introduction à ce qui peut être réalisé avec un logiciel deepfake.

Aucune des stars envoyées dans la série ITV n'a été consultée ou n'a donné sa permission – bien que l'utilisation de leurs images par Deep Fake Neighbor Wars ne soit pas illégale (pas encore en tout cas).

Cependant, alors que l'émission commence chaque épisode avec une clause de non-responsabilité à l'écran indiquant que ce qui suit est "tout faux" et que "les vraies célébrités n'ont rien à voir avec cela", et qu'une étiquette "deep fake" reste dans le coin de l'écran , rien n'empêche la diffusion de clips édités de l'émission sur les réseaux sociaux sans un tel avertissement.

Bien qu'aucune des «vraies célébrités» ne se soit plainte, le syndicat des acteurs Equity a exprimé des doutes – même en lançant une campagne Stop AI Stealing The Show – quant aux conséquences «dystopiques» pour les artistes qui ne sont pas consultés, et encore moins payés si leurs visages sont utilisé pour le deepfakery.

Une vidéo ou une photo deepfake implique généralement de superposer le visage d'une personne sur le corps de quelqu'un d'autre. Cela peut sembler simple, mais tromper l'œil humain en faisant correspondre les expressions, les gestes, la voix et même les tics faciaux demande beaucoup de travail. Les deepfakes sont généralement créés en introduisant des milliers de photos de quelqu'un (les personnes célèbres sont plus simples à simuler car il y a tellement plus de photos d'elles) dans un programme informatique à l'intérieur d'un appareil photo spécial.

Cela utilise «l'apprentissage automatique» (une forme d'intelligence artificielle, ou IA, par laquelle l'ordinateur apprend par lui-même) pour comprendre à quoi ressemblera cette personne sous différents angles en mélangeant les informations de toutes les photos.

Une copie du visage de la personne peut alors être superposée à celle de l'acteur qui est le remplaçant aux fins du faux.

Si vous voulez que les gens disent des choses qu'ils n'ont jamais dites, le logiciel doit apprendre comment leur bouche, leur visage et même leur cou bougent lorsqu'ils énoncent des mots. (Il est souvent plus facile de repérer un deepfake non sophistiqué en regardant la bouche.)

Le remplaçant doit idéalement se déplacer aussi lentement que possible. Faire des mouvements rapides ou manifester des émotions fortes peut perturber le processus, tout comme le blocage de certaines parties du visage, par exemple en mettant des lunettes de soleil. Mais même ces problèmes sont en train d'être aplanis.

Une variante plus avancée du programme deepfake, connue sous le nom de GAN, (ou Generative Adversarial Networks) implique l'utilisation de deux algorithmes d'IA concurrents, dont l'un crée un deepfake et l'autre essaie de repérer la contrefaçon. Peu à peu, par essais et erreurs, ils réduiront l'image deepfake pour produire quelque chose qui est proche d'une ressemblance parfaite.

Bien qu'un simple logiciel deepfake puisse être téléchargé gratuitement sur un téléphone mobile, un travail de post-production considérable doit invariablement être effectué pour lisser les défauts mineurs qu'un ordinateur s'appuyant sur des mesures statistiques peut manquer, mais pas l'œil humain.

L'audio peut également être falsifié pour créer ce que l'on appelle des "clones de voix", soit par le biais d'un logiciel qui imite une voix, soit par assemblage de mots que la personne imitée a réellement prononcés.

L'industrie du cinéma et de la télévision expérimente la technologie deepfake depuis quelques années, bien qu'elle préfère l'appeler "média synthétique": elle a été utilisée pour "ressusciter" des acteurs morts tels que Peter Cushing dans les derniers films de Star Wars, pour mettre Bruce Willis dans une publicité russe, et de faire danser la reine dans la parodie impertinente de Channel 4 du discours de Noël de HM en 2020.

Une finale de la saison de l'émission télévisée America's Got Talent a présenté des deepfakes d'Elvis Presley et de Simon Cowell.

Il vient d'être annoncé que des acteurs tels que Tom Hanks et Robin Wright bénéficieront du traitement deepfake, "se transformant de manière transparente en versions plus jeunes d'eux-mêmes" dans un prochain long métrage, impliquant la même société, Metaphysic, qui a réalisé les vidéos de Tom Cruise.

Pendant ce temps, la révolution Deepfake a déjà montré qu'elle avait des applications bien plus sinistres que l'envoi de célébrités ou l'exécution d'un peu de supercherie décalée dans le temps dans les longs métrages.

En effet, le terme a été inventé en 2017 sur le forum de messagerie en ligne Reddit par le producteur de vidéos de sexe dans lesquelles les visages des interprètes étaient échangés contre ceux des actrices de cinéma.

Il est toujours utilisé à des fins sordides - alimentant ce qu'on appelle le "pornographie de vengeance" (dans lequel des gens ordinaires peuvent donner l'impression qu'ils ont des relations sexuelles).

Un programme Internet deepfake particulièrement dérangeant peut supprimer les vêtements d'une photo et les remplacer par un corps nu réaliste. Beaucoup de ses plus de 100 000 victimes étaient des filles mineures.

En 2019, des criminels auraient utilisé la technologie deepfake pour imiter la voix du directeur général de la filiale britannique d'une société énergétique allemande. Les escrocs ont dûment contacté par téléphone l'un des sous-fifres du PDG et lui ont ordonné de transférer une somme de près de 200 000 £.

Une escroquerie de clonage de voix similaire aurait rapporté 29 millions de livres sterling aux voleurs lors d'un braquage de banque à Dubaï. Et, il y a quelques jours à peine, la star de Harry Potter, Emma Watson, lisait en profondeur Mein Kampf d'Hitler.

Deepfake a été utilisé dans des canulars politiques de Joe Biden s'endormant lors d'une interview avec Barack Obama qualifiant Donald Trump de "baisse totale****".

L'année dernière, une vidéo du dirigeant ukrainien Volodymyr Zelensky se rendant à la Russie a circulé sur les réseaux sociaux. C'était de mauvaise qualité mais, selon les experts en sécurité, cela montrait ce qui pouvait être tenté.

Certains politiciens américains veulent interdire les deepfakes malveillants et disent que c'est un problème qui empêche les agences de renseignement de "veiller la nuit". Comme l'a dit un sénateur américain : "Deepfakes peut être fait sur mesure pour séparer les Américains et verser de l'essence sur à peu près n'importe quel feu de guerre culturelle".

Dans le maintien de l'ordre, non seulement cela pourrait conduire à l'implication à tort d'innocents, mais les coupables pourraient toujours rejeter une véritable vidéo incriminante comme truquée. En 2020, il est apparu qu'un enregistrement audio deepfake avait été utilisé dans une bataille pour la garde au Royaume-Uni pour discréditer le père en faisant croire qu'il avait proféré des menaces «violentes» contre sa femme.

Il serait injuste de dire que la technologie a été une mauvaise nouvelle en dehors de l'industrie du divertissement. La police néerlandaise l'a utilisé l'année dernière pour relancer une affaire froide de 2003 en recréant numériquement une victime de meurtre de 13 ans. Les acheteurs en ligne peuvent l'utiliser pour essayer des vêtements dans des cabines d'essayage virtuelles. Pendant ce temps, il a des utilisations dans des vidéos de service public telles que celles de la campagne Malaria Must Die, qui montrait David Beckham parlant en neuf langues ou âgé de plus de 70 ans.

Mais les problèmes éthiques de deepfake, disent les experts, sont sérieux et urgents. Compte tenu de la myriade de domaines qui pourraient être exploités, de la diplomatie et de la sécurité nationale aux affaires et à la politique, "nous devrions être très inquiets", déclare Mathilde Pavis, spécialiste du droit de l'internet et experte en deepfake à l'Université de Reading. Le problème "nécessite une réponse internationale qui fait vraiment défaut".

Il est trop tard pour essayer d'interdire purement et simplement les deepfakes et peut-être même de restreindre les malveillants, disent les experts. Au lieu de cela, affirment-ils, nous devons devenir plus « alphabétisés sur le plan technologique » et conscients d'éventuelles supercheries profondes.

Cela pourrait être difficile. Comme le dit le deepfake Tom Cruise à la vraie Paris Hilton quand elle se demande si les gens vont croire qu'ils sont en couple : "Je pense que la plupart des gens croiront n'importe quoi."