Deux jours seulement avant les élections slovaques, un enregistrement audio a été publié sur Facebook. Il y avait deux voix: Michal Šimečka, qui dirige le parti libéral Slovaquie progressiste, et Monika Tódová du quotidien Denník N. Ils semblaient discuter de la manière de truquer les élections, en partie en achetant les voix de la minorité rom marginalisée du pays.
Šimečka et Denník N ont immédiatement dénoncé l'audio comme étant faux. Le service de vérification des faits de l'agence de presse AFP a déclaré(https://fakty.afp.com/doc.afp.com.33WY9LF) que l'audio montrait des signes de manipulation à l'aide de l'IA. Mais l'enregistrement a été publié pendant un moratoire de 48 heures avant l'ouverture du scrutin, pendant lequel les médias et les hommes politiques sont censés garder le silence. Cela signifiait que, selon les règles électorales slovaques, ce poste était difficile à discréditer largement. Et comme le message était audio, il exploitait une faille dans la politique de Meta en matière de médias manipulés, qui dicte uniquement les fausses vidéos – dans lesquelles une personne a été montée pour dire des mots qu’elle n’a jamais prononcés – vont à l’encontre de ses règles.
L'élection a été une course serrée entre deux favoris ayant des visions opposées pour la Slovaquie. Dimanche, il a été annoncé que le parti pro-OTAN, la Slovaquie progressiste, avait perdu face au SMER, qui faisait campagne pour retirer son soutien militaire à son voisin, l'Ukraine.
Avant le vote, la responsable du numérique de l’UE, Věra Jourová, a déclaré que les élections en Slovaquie constitueraient un test de la vulnérabilité des élections européennes face à « l’arme de manipulation massive de plusieurs millions d’euros » utilisée par Moscou pour s’ingérer dans les élections. Aujourd’hui, à la suite de cette crise, les pays du monde entier vont se pencher sur ce qui s’est passé en Slovaquie pour trouver des indices sur les défis auxquels ils pourraient eux aussi être confrontés. La Pologne voisine, qui selon une récente étude de l’UE était particulièrement exposée au risque d’être la cible de la désinformation, se rendra aux urnes dans deux semaines. L’année prochaine, des élections auront lieu au Royaume-Uni, en Inde, dans l’Union européenne et aux États-Unis. Les vérificateurs des faits qui tentent de lutter contre la désinformation sur les réseaux sociaux en Slovaquie affirment que leur expérience montre que l'IA est déjà suffisamment avancée pour perturber les élections, alors qu'ils manquent d'outils pour riposter.
«Nous ne sommes pas aussi prêts que nous devrions l'être», déclare Veronika Hincová Frankovská, chef de projet à l'organisation de vérification des faits Demagog.
Pendant les élections, l’équipe de Hincová Frankovská a travaillé de longues heures, partageant son temps entre la vérification des affirmations formulées lors des débats télévisés et la surveillance des plateformes de médias sociaux. Demagog est un partenaire de vérification des faits pour Meta, ce qui signifie qu'il travaille avec la société de médias sociaux pour rédiger des étiquettes de vérification des faits concernant les soupçons de désinformation se propageant sur des plateformes comme Facebook.
L’IA a ajouté une nouvelle dimension stimulante à leur travail. Trois jours avant les élections, Meta a informé l'équipe Demagog qu'un enregistrement audio de Šimečka proposant de doubler le prix de la bière en cas de victoire gagnait du terrain. Šimečka a qualifié la vidéo de fausse. «Mais bien entendu, la vérification des faits ne peut pas se baser uniquement sur ce que disent les politiciens», déclare Hincová Frankovská.
Prouver que l’audio avait été manipulé était difficile. Hincová Frankovská avait entendu parler des publications générées par l’IA, mais son équipe n’avait jamais eu à en vérifier une. Ils ont retracé la provenance de l'enregistrement et ont découvert qu'il avait d'abord été publié sur un compte Instagram anonyme. Ensuite, ils ont commencé à appeler des experts pour leur demander s'ils considéraient que l'enregistrement était probablement faux ou manipulé. Enfin, ils ont testé un classificateur vocal IA fabriqué par une société américaine appelée Eleven Labs.
Après quelques heures, ils étaient prêts à confirmer qu'ils pensaient que l'enregistrement avait été altéré. Leur étiquette, qui est toujours visible sur Facebook en langue slovaque lorsque les visiteurs découvrent la publication, indique : « Des vérificateurs de faits indépendants affirment que la photo ou l’image a été modifiée d’une manière qui pourrait induire les gens en erreur. » Les utilisateurs de Facebook peuvent alors choisir s’ils souhaitent quand même voir la vidéo.
Les audios de la bière et du trucage des votes restent visibles sur Facebook, avec l’étiquette de vérification des faits. "Lorsque le contenu est vérifié, nous l'étiquetons et le classons dans le fil d'actualité, afin que moins de personnes le voient, comme cela s'est produit avec ces deux exemples", explique Ben Walter, porte-parole de Meta. "Nos normes communautaires s'appliquent à tout contenu, qu'il soit créé par l'IA ou par une personne, et nous prendrons des mesures contre tout contenu qui enfreint ces politiques."
Cette élection était l’un des premiers votes consécutifs à avoir lieu après l’introduction de la loi européenne sur les services numériques en août. La loi, conçue pour mieux protéger les droits de l’homme en ligne, a introduit de nouvelles règles censées obliger les plateformes à être plus proactives et transparentes dans leurs efforts pour modérer la désinformation.
"La Slovaquie a été un test pour voir ce qui fonctionne et où des améliorations sont nécessaires", explique Richard Kuchta, analyste chez Reset, un groupe de recherche qui se concentre sur l'impact de la technologie sur la démocratie. « À mon avis, [la nouvelle loi] a fait pression sur les plateformes pour qu'elles augmentent les capacités de modération des contenus ou de vérification des faits. Nous savons que Meta a engagé davantage de vérificateurs des faits pour les élections slovaques, mais nous verrons si cela a suffi.»
Parallèlement aux deux enregistrements audio deepfake, Kuchta a également vu deux autres vidéos présentant des imitations audio d'IA publiées sur les réseaux sociaux par le parti d'extrême droite Republika. L’un se faisait passer pour Michal Šimečka et l’autre pour la présidente Zuzana Čaputová. Ces audios contenaient des déclarations selon lesquelles les voix étaient fausses : « Ces voix sont fictives et leur ressemblance avec de vraies personnes est purement fortuite. » Cependant, cette déclaration n'apparaît que 15 secondes après le début de la vidéo de 20 secondes, explique Kutcha, dans ce qu'il considère comme une tentative de tromper les auditeurs.
Les élections slovaques étaient suivies de près en Pologne. "Bien sûr, nous avons très peur de la désinformation générée par l'IA, car il est très difficile d'y réagir rapidement", déclare Jakub Śliż, président de l'association polonaise de vérification des faits Pravda. Śliż se dit également préoccupé par la tendance en Slovaquie à intégrer la désinformation dans des enregistrements audio, par opposition à des vidéos ou des images, car le clonage de voix est si difficile à identifier.
Comme Hincová Frankovská en Slovaquie, Śliż manque également d’outils pour l’aider de manière fiable à identifier ce qui a été créé ou manipulé à l’aide de l’IA. « Les outils disponibles vous donnent un score de probabilité », dit-il. Mais ces outils souffrent d’un problème de boîte noire. Il ne sait pas comment ils décident qu’un message est susceptible d’être faux. « Si j'ai un outil qui utilise une autre IA pour me dire comme par magie que 87 % de l'IA est générée, comment suis-je censé transmettre ce message à mon public ? » il dit.
Il n’y a pas encore eu beaucoup de contenus générés par l’IA qui circulent en Pologne, dit Śliż. "Mais les gens utilisent le fait que quelque chose peut être généré par l'IA pour discréditer de vraies sources." Il reste deux semaines avant que les électeurs polonais décident si le parti conservateur au pouvoir, Droit et Justice, doit rester au gouvernement pour un troisième mandat sans précédent. Ce week-end, une foule géante s'est rassemblée à Varsovie pour soutenir l'opposition, le gouvernement municipal contrôlé par l'opposition estimant que la foule avait atteint 1 million de personnes à son apogée. Mais sur X, anciennement connu sous le nom de Twitter, les utilisateurs ont suggéré que les vidéos de la marche avaient été falsifiées à l'aide de l'IA pour faire paraître la foule plus grande.
Śliż pense que ce type de contenu est facile à vérifier, en croisant différentes sources. Mais si des enregistrements audio générés par l’IA commençaient à circuler en Pologne dans les dernières heures précédant le vote, comme cela a été le cas en Slovaquie, ce serait beaucoup plus difficile. « En tant qu’organisation de vérification des faits, nous n’avons pas de plan concret sur la manière de gérer ce problème », dit-il. Donc si quelque chose comme ça arrive, ça va être douloureux.