BRATISLAVA – Des vidéos présentant de fausses voix de politiciens générées par l'intelligence artificielle se répandent sur les réseaux sociaux à l'approche des élections parlementaires slovaques de ce week-end, montrant comment la technologie émergente est exploitée à des fins de désinformation politique.
Les clips sont partagés sur des sites tels que Facebook et Instagram des méta-plateformes et des applications de messagerie comme Telegram qui incluent des fichiers audio usurpant l'identité d'opposants politiques, a déclaré Reset, un groupe de recherche qui examine l'impact de la technologie sur la démocratie, dans un rapport publié vendredi.
L'une de ces vidéos présente une conversation de deux minutes au cours de laquelle le chef du parti progressiste, M. Michal Simecka, semble discuter de l'achat de voix de la minorité rom avec un journaliste.
Les vérificateurs de l'AFP ont consulté plusieurs experts qui ont conclu que l'audio avait été synthétisé par un outil d'intelligence artificielle (IA) formé à partir d'échantillons réels de voix des locuteurs, et plusieurs copies sont disponibles sur les réseaux sociaux sans étiquette les signalant comme trompeuses.
Un porte-parole de Meta a déclaré que même si les messages des partis politiques ne sont pas éligibles à la vérification des faits, car Meta ne devrait pas « empêcher le discours d'un homme politique d'atteindre son public et d'être soumis à un débat et à un examen publics », ses vérificateurs de faits couvrant la Slovaquie « continuent ». pour démystifier activement les fausses allégations relatives aux élections qui circulent en ligne ».
Un représentant de Telegram n'a pas répondu à une demande de commentaire.
Les chercheurs et les législateurs ont mis en garde contre une vague de désinformation alimentée par l'IA, mais les fausses images et vidéos étaient jusqu'à présent plutôt une curiosité ludique.
Les exemples slovaques semblent montrer comment la technologie peut être utilisée pour tromper et contrarier les électeurs dans les derniers jours précédant une élection très disputée.
Les élections s’annoncent comme l’une des plus importantes pour ce pays de 5,4 millions d’habitants de l’Union européenne de l’Est depuis la chute du communisme. Le parti SMER de M. Robert Fico est l’un des pionniers et mène une campagne populiste qui dénonce les sanctions contre la Russie et l’aide militaire à l’Ukraine. Il affronte le parti pro-européen Slovaquie progressiste de M. Simecka.
Dans une autre vidéo, le parti politique d’extrême droite Republika a publié des publicités politiques comportant des voix off générées par l’IA basées sur M. Simecka et la présidente Zuzana Caputova mettant en garde les électeurs contre le fait de suivre aveuglément « le troupeau progressiste ». Les vidéos sont restées vendredi sur Facebook et Instagram.
« Depuis trois ou quatre ans, tout le monde parle de la prochaine vague de manipulations de deepfakes, mais pour une raison quelconque, cela n’a pas eu lieu. Mais il y a des raisons de penser que les choses pourraient être différentes maintenant », a déclaré M. Rolf Fredheim, qui a mené les recherches pour Reset, qui étaient plus largement axées sur le suivi d’une hausse de la désinformation et des discours de haine à l’approche des élections.
M. Fredheim, qui a déjà suivi la désinformation au sein du StratCom de l’OTAN, a déclaré que la technologie des deepfakes est devenue beaucoup plus facile à utiliser pour une personne moyenne sans avoir besoin d’un ordinateur très puissant.
Il a souligné des applications telles que HeyGen qui permettent de transformer très facilement des scripts en vidéos deepfake parlantes à l’aide de courts échantillons de la voix de quelqu’un.
« Avec les exemples des élections slovaques, il y a tout lieu de penser que les manipulateurs professionnels se tournent vers ces outils pour créer des effets et les distribuer de manière coordonnée », a-t-il ajouté.
HeyGen n'a pas immédiatement répondu à une demande de commentaire. BLOOMBERG