Incidents associés
Alors que le Venezuela se préparait pour la saison du carnaval le mois dernier, une vidéo en anglais a été publiée sur la chaîne YouTube "House of News". Son présentateur Noah a salué un prétendu boom du tourisme alors que des millions de citoyens affluaient vers les îles des Caraïbes du pays pour faire la fête.
Le rapport, qui a été largement diffusé dans les médias favorables au gouvernement socialiste du président Nicolás Maduro, suggérait que les affirmations concernant l'appauvrissement généralisé dans le Venezuela avaient été "exagérées".
Un autre rapport a affirmé que le gouvernement intérimaire anti-Maduro avait été impliqué dans la prétendue mauvaise gestion de 152 millions de dollars de fonds avant sa récente dissolution, Emma, la présentatrice, concluant que "les Vénézuéliens ne sentent pas qu'il y a une opposition au gouvernement".
Mais les deux histoires étaient fausses et les deux lecteurs de nouvelles n'existent pas. Ce sont des avatars, basés sur de vrais acteurs, qui ont été générés à l'aide de la technologie de Synthesia, une société d'intelligence artificielle basée à Londres. Leurs accents américains ont été synthétisés, leurs visages parlants générés par des algorithmes d'apprentissage automatique.
La semaine dernière, YouTube a suspendu cinq comptes, dont House of News, qui avaient partagé des informations erronées alignées sur le gouvernement. Mais l'émergence de deepfakes et de médias générés par l'IA représente une nouvelle frontière dans la campagne de propagande et de désinformation du Venezuela, soulevant des inquiétudes quant à l'influence potentielle sur une population qui a peu accès à des informations fiables en raison de la censure généralisée à la fois en ligne et hors ligne.
"Au Venezuela, il y a un désert d'informations où la désinformation peut prospérer", a déclaré Adrián González, directeur de Cazadores de Fake News, un moniteur de désinformation basé à Caracas. "Et maintenant, la technologie est là pour faire de fausses vidéos d'actualités convaincantes."
González a déclaré que le réseau de points de vente au Venezuela diffusant de la propagande était vaste, allant des médias officiels, des médias indépendants mais alliés et des fournisseurs de fausses nouvelles. Sur les réseaux sociaux, les affiches ont utilisé des outils d'automatisation pour stimuler les points de discussion du gouvernement, aidant les messages à atteindre le plus grand nombre.
Au cours de l'année écoulée, technologies d'IA générative – un logiciel capable de créer des images, des vidéos et du texte en fonction des invites et des descriptions de l'utilisateur – ont gagné en popularité. Des produits tels que Dall-E et ChatGPT sont largement adoptés par des utilisateurs allant des écoliers aux programmeurs informatiques d'élite.
Mais il y a également eu des inquiétudes quant au potentiel du logiciel à générer de la désinformation. Des exemples documentés d'échanges avec des agents d'IA génératifs tels que des chatbots montrent comment ils crachent de fausses informations, appelées "hallucinations", affichent les préjugés et les théories du complot.
La technologie de Synthesia, basée sur un type de technique d'IA connue sous le nom d'apprentissage en profondeur, génère des vidéos mettant en scène des avatars. Ces avatars parlent à partir d'un script généré par l'utilisateur, dans une variété de langues, et les vidéos peuvent être créées en 10 minutes. Il dit qu'il produit environ 10 000 vidéos par mois et que ses clients vont de la société de publicité WPP au NHS du Royaume-Uni, qui l'utilise pour créer des vidéos d'informations sur la santé dans différentes langues. La start-up a levé 66 millions de dollars auprès d'investisseurs de la Silicon Valley, dont Kleiner Perkins et GV, anciennement Google Ventures.
Synthesia a déclaré que le client vénézuélien avait été interdit d'utiliser son service dès que la vidéo a été découverte sur Twitter par l'un des employés de l'entreprise. "Nous avons des directives strictes pour le type de contenu que nous autorisons à créer sur notre plate-forme. Nous appliquons nos conditions d'utilisation et interdisons les utilisateurs qui les enfreignent", a-t-il déclaré.
Synthesia a ajouté qu'elle avait mis en place de nouvelles restrictions sur l'utilisation de sa technologie, notamment l'interdiction de tout contenu de style reportage, un filigrane numérique qui marquerait les vidéos comme générées par l'IA et un processus de révision plus strict pour chaque vidéo.
Synthesia a fait face à d'autres cas d'utilisation abusive. En janvier, des vidéos de désinformation politique générées par l'entreprise circulaient au Mali, et le mois dernier, des analystes de l'information basés aux États-Unis, Graphika, ont découvert [une opération pro-Chine(ouvre une nouvelle fenêtre)](https://twitter.com/Graphika_NYC/ status/1622928682128969730) faisant la promotion de vidéos produites par Synthesia.
Selon ses directives d'éthique(ouvre une nouvelle fenêtre), Synthesia a déclaré qu'elle ne publierait son produit qu'aux "clients de confiance" après un "processus de sélection interne explicite". Lorsqu'on lui a demandé pourquoi ces politiques avaient échoué dans le cas vénézuélien, la société a déclaré qu'elle avait renforcé ses réglementations afin que sa petite équipe de modération de contenu puisse voir si les demandes d'un utilisateur avaient déjà été rejetées, afin d'aider à signaler les abus potentiels et les récidivistes.
Des informations fiables sont une ressource rare au Venezuela, qui possède les plus grandes réserves prouvées de pétrole au monde, mais qui est aux prises avec une inflation à un taux annuel de 350% cette année, selon les chercheurs locaux d'Ecoanalítica. Les aliments de base et les médicaments sont souvent rares ou d'un prix prohibitif. Les sanctions strictes imposées par les États-Unis en 2019 ont limité la marge de manœuvre du gouvernement malgré l'assouplissement du contrôle des changes. Plus de 7 millions de Vénézuéliens ont fui le pays depuis 2015.
L'économie montre des signes d'amélioration modeste, mais le gouvernement de Maduro est devenu plus autoritaire au cours d'une décennie au pouvoir, réprimant la dissidence tout en cooptant ou en fermant les médias d'information traditionnels. Le principal journal El Nacional a arrêté son édition imprimée en 2018. L'année dernière, les fournisseurs de services Internet contrôlés par l'État et privés ont bloqué l'accès aux sites d'information indépendants.
Des armées d'utilisateurs sur Twitter et d'autres plateformes aident à promouvoir l'agenda de Maduro. ProBox, une organisation de la société civile qui suit la désinformation sur les réseaux sociaux au Venezuela, a documenté des cas où le gouvernement récompense les personnes qui promeuvent les points de discussion du régime par le biais d'un système de crédit social connu sous le nom de "carte de la patrie".
Les sujets communs promus incluent la reprise économique, l'amélioration des conditions de vie et les lacunes de l'opposition fracturée. Les comptes du gouvernement partagent la propagande, qui circule librement sur les réseaux sociaux. Les vidéos de House of News ont reçu des centaines de milliers de vues sur YouTube. Les radiodiffuseurs d'État les ont également diffusés.
Le contenu pourrait être très convaincant, a déclaré María Virginia Marín, responsable de ProBox.
"Lorsque vous avez un soi-disant journaliste qui parle en anglais dans ce qui ressemble à des médias internationaux et vous vend une réalité que vous ne voyez pas, cela soulève la question que peut-être cela existe et que vous êtes juste en dehors de cela", a-t-elle déclaré. a dit.
Les vidéos étaient en partie destinées à un public international, a ajouté Marín. "L'objectif est de brouiller le débat international sur le Venezuela et de couvrir la réalité de ce qui se passe ici."