Incidents associés
D'étranges vidéos générées par l'IA, montrant des personnes exprimant leur soutien à la nouvelle junte militaire du Burkina Faso, sont apparues en ligne, ce qui pourrait être une tentative maladroite de diffusion de propagande pro-militaire.
L'auteur de ces vidéos n'est pas connu, mais il semble qu'elles soient partagées via WhatsApp.
L'une d'elles a été largement partagée sur Twitter cette semaine par Lauren Blanchard, spécialiste des affaires africaines au Congressional Research Service (CRS) aux États-Unis. Mme Blanchard a déclaré que la vidéo circulait sur WhatsApp, mais qu'elle ignorait son auteur.
« Bonjour au peuple africain et particulièrement au peuple burkinabé. Je m'appelle Alisha et je suis panafricaniste », déclare une personne dans la vidéo, dont VICE World News a confirmé qu'elle avait été créée par le générateur de vidéos Synthesia.
Synthesia a déclaré avoir banni l'utilisateur à l'origine des vidéos, mais a souhaité garder l'anonymat.
L'avatar généré par l'IA dans la vidéo poursuit : « J'en appelle à la solidarité du peuple burkinabé et du peuple burkinabé pour soutenir efficacement les autorités de la transition. »
« Resterons tous mobilisés aux côtés du peuple burkinabé dans ce combat. La patrie ou la mort. Nous vaincrons. »
La vidéo est apparue aux côtés d'un clip similaire, mettant en scène plusieurs avatars différents, mais lisant le même script, également créé avec Synthesia.
La deuxième vidéo a été publiée sur Facebook le 23 janvier par Ibrahima Maiga, qui se présente comme un politologue sahélien originaire du Burkina Faso. Maiga, qui a publié des messages de soutien au nouveau régime du pays, a déclaré à VICE World News via Facebook Messenger avoir trouvé la vidéo sur WhatsApp avant de la publier sur Facebook et qu'il ignorait qu'elle avait été créée avec l'IA.
Il semble avoir supprimé la vidéo peu après avoir été contacté par VICE World News.
Le Burkina Faso est actuellement dirigé par le président par intérim Ibrahim Traoré, qui a pris le pouvoir lors d'un coup d'État en septembre. L'armée dirige désormais ce pays d'Afrique de l'Ouest, après avoir affirmé que les gouvernements précédents n'avaient pas réussi à endiguer la propagation de la violence djihadiste.
Certains utilisateurs de Twitter ont attribué les vidéos au groupe Wagner, une entreprise militaire privée russe, sans preuve.
Wagner est l'un des groupes de mercenaires les plus secrets et les plus brutaux au monde (https://www.vice.com/en/article/xgdbpa/inside-russia-wagner-group-mercenaries) et a collaboré avec les gouvernements du Mali et de la République centrafricaine. Les autorités militaires du Burkina Faso ont précédemment nié les allégations selon lesquelles elles auraient engagé des mercenaires pour les aider à combattre une insurrection islamiste, mais cette semaine, la France a accédé à la demande de son ancienne colonie de retirer toutes ses troupes du pays.
Si la Russie est connue pour avoir déployé des deepfakes pendant la guerre en Ukraine, on ignore si Wagner a déjà utilisé l'IA pour générer de telles vidéos.
Tracy Harwood, professeure de culture numérique à l'université De Montfort au Royaume-Uni, a déclaré à VICE World News qu'elle serait surprise que quiconque se laisse prendre au piège des vidéos du Burkina Faso.
« Avec les preuves de l'influence russe dans la manipulation des résultats politiques, qui pourrait réellement faire confiance à un contenu en ligne soutenant une position politique ? Les personnes concernées par les enjeux politiques ont besoin de vérités concrètes, et non de vérités virtuelles », a-t-elle déclaré. « Ces vidéos ont tout l'air de guerriers du clavier agissant aussi loin que possible de l'action ! »
Une vidéo sur la création d'avatars d'IA sur le compte YouTube de Synthesia présente l'un des avatars vus dans les vidéos du Burkina Faso, et indique : « Une équipe de modérateurs de contenu veille à ce que personne n'enfreigne les règles, il est donc impossible de diffuser de fausses informations, de désinformation ou d'obscénité via les vidéos créées par Synthesia Studio. »
Le PDG de Synthesia, Victor Riparbelli, a refusé de révéler à VICE World News l'identité des auteurs des vidéos, mais a déclaré : « Nous avons des règles strictes concernant le type de contenu que nous autorisons à la création sur notre plateforme et nous condamnons fermement toute utilisation abusive. Les vidéos récemment publiées enfreignent nos Conditions d'utilisation et nous avons identifié et banni l'utilisateur concerné.
« En tant qu'entreprise, nous avons investi très tôt dans la modération des contenus afin de garantir à nos dizaines de milliers de clients une plateforme sécurisée. »
Il a ajouté : « Des cas comme celui-ci illustrent la difficulté de la modération. Les scripts en question n'utilisent pas de langage explicite et nécessitent une compréhension contextuelle approfondie du sujet. Aucun système ne sera jamais parfait, mais pour éviter que des situations similaires ne se reproduisent, nous poursuivrons nos efforts d'amélioration. »