Incidents associés
Facebook et YouTube ont déclaré mercredi avoir supprimé les téléchargements d'une vidéo deepfake du président ukrainien Volodymyr Zelensky qui prétendait le montrer céder à la Russie.
Le deepfake s'est largement répandu en ligne mercredi, comme l'a remarqué plus tôt Vice's Motherboard. Dans la vidéo, que CNN Business a examinée, Zelensky semble se tenir derrière un podium présidentiel et devant une toile de fond, qui présentent toutes deux les armoiries ukrainiennes. Vêtu d'une chemise verte, Zelensky parle en ukrainien, semblant dire aux Ukrainiens de déposer leurs armes dans la guerre qui dure depuis des semaines contre la Russie.
Deepfakes - qui combinent les termes "apprentissage en profondeur" et "faux" - sont des fichiers vidéo et audio d'apparence convaincante mais faux. Réalisés à l'aide d'une technologie d'intelligence artificielle de pointe et relativement accessible, ils visent à montrer une personne réelle faisant ou disant quelque chose qu'elle n'a pas fait. Les experts craignent depuis longtemps qu'à mesure qu'ils s'améliorent, ils ne soient utilisés pour diffuser des informations erronées.
Dans une série de publications sur Twitter mercredi après-midi, le responsable de la politique de sécurité de Meta, Nathaniel Gleicher, a écrit que la société avait repéré et supprimé la vidéo plus tôt dans la journée. "Nous avons rapidement examiné et supprimé cette vidéo pour violation de notre politique contre les médias manipulés trompeurs, et avons informé nos pairs sur d'autres plateformes", a-t-il écrit.
Le porte-parole de YouTube, Ivy Choi, a déclaré que la vidéo et les téléchargements de celle-ci avaient été supprimés de la plate-forme car ils enfreignaient les politiques de désinformation de l'entreprise. "Nous autorisons cette vidéo si elle fournit un contexte éducatif, documentaire, scientifique ou artistique suffisant", a déclaré Choi dans un communiqué.
Un porte-parole de Twitter a déclaré que la société surveillait la manière dont la vidéo était partagée sur le réseau social et avait pris des "mesures coercitives" dans les cas où elle enfreignait les règles de l'entreprise (telles que sa politique relative aux médias synthétiques et manipulés, qui interdit aux utilisateurs de partager du contenu modifié qui peut confondre les gens ou causer du tort ; dans certains cas, Twitter peut étiqueter les tweets contenant des médias trompeurs pour donner aux utilisateurs plus de contexte).
Bien que la vidéo ne semble pas extrêmement trafiquée, il y a des signes révélateurs que la vidéo n'est pas ce qu'elle semble être. Et Zelensky lui-même est apparu dans une vidéo publiée sur un compte officiel de la défense ukrainienne sur Twitter, affirmant qu'il continuait à défendre l'Ukraine et refusait de déposer les armes contre la Russie.
Hany Farid, professeur à l'Université de Californie à Berkeley et expert en criminalistique numérique, a souligné plusieurs des signes évidents que la vidéo est un deepfake. Tout d'abord, il s'agit d'un enregistrement de faible qualité et de faible résolution ; il s'agit d'une astuce courante pour masquer les distorsions créées lors de la création d'un deepfake, car notre cerveau a tendance à être plus indulgent face aux pépins dans les vidéos de mauvaise qualité. Deuxièmement, le Zelensky dans la vidéo regarde droit devant lui sans bouger ses bras tout au long du clip – il est très difficile de faire un deepfake convaincant qui inclut des mouvements de tête et des mains se déplaçant devant le visage. Troisièmement, il y a peu d'incohérences visuelles dans la vidéo, a-t-il souligné, qui se produisent pendant le processus de fabrication d'un deepfake, qui est créé une seule image à la fois. Bien que la voix de Zelensky soit plus difficile à commenter pour Farid, en partie parce qu'il ne parle pas l'ukrainien, il a dit que cela lui semblait un peu bizarre.
La vidéo survient des semaines après que le compte Facebook officiel des Forces terrestres ukrainiennes a publié un avertissement indiquant que de telles vidéos de Zelensky pourraient apparaître. "Attention - c'est un faux !" le compte a écrit, ajoutant bientôt: "Rassurez-vous - l'Ukraine ne capitulera pas!" Cet avertissement était accompagné d'une image qui semblait montrer Zelensky dans une chemise similaire à celle apparue dans la vidéo deepfake, devant le même fond et derrière le même podium.
Mercredi après-midi, la vidéo pouvait toujours être trouvée en ligne, comme dans certains messages que CNN Business a repérés sur Twitter et YouTube dans lesquels les utilisateurs ont clairement indiqué qu'il s'agissait d'un deepfake.
Bien que Farid ne pense pas que la vidéo ait trompé les gens, il pense qu'elle "brouille les informations", ce qui rend plus difficile pour quiconque de faire confiance à ce qu'il voit.
"Jeter le doute sur ce que vous voyez, entendez et lisez est une arme très puissante dans la guerre de l'information et les deepfakes jouent maintenant un rôle dans cela", a déclaré Farid.