Incidents associés
Un contenu trompeur généré par l'IA pourrait faire basculer les électeurs, selon les experts en IA. L'élection présidentielle de dimanche en Turquie est le premier grand vote à relever ce défi.
Les internautes turcs ont été surpris de découvrir que Kemal Kilicdaroglu, principal challenger du président Recep Tayyip Erdogan lors de l'élection de dimanche, parlait un anglais parfait dans une vidéo mise en ligne il y a deux semaines.
« La prunelle de mes yeux parle anglais aussi. Je te promets grand-père, on va te faire président", a commenté un utilisateur de Twitter, partageant la vidéo du candidat de 74 ans. Mais deux jours plus tard, le site Web turc indépendant de vérification des faits Teyit a révélé [la vidéo avait été fabriquée](https://teyit.org/analiz/kemal-kilicdaroglunun-ingilizce-konustugu-videonun-gercek-oldugu- idiasi).
Selon Teyit, qui signifie confirmation en turc, la vidéo générée par l'IA n'avait pas l'intention de tromper qui que ce soit et a été initialement publiée avec un avertissement.
"J'expérimente constamment l'IA pour découvrir de nouvelles fonctionnalités. J'ai créé la voix de Kemal Kilicdaroglu sur AI et je l'ai utilisée pour une version anglaise de son discours de candidature », a déclaré @ytc06, qui était le premier utilisateur de Twitter à partager la vidéo avec ses 11 abonnés avant qu'elle ne devienne virale.
Le récent boom de l'accès aux outils d'IA alimente ce genre de situations, selon le spécialiste des deepfakes Henry Ajder.
"Quand quelque chose conçu pour être satirique est sorti de son contexte, cela peut être confondu avec la réalité, surtout si vous parlez à un public qui a certains préjugés", a-t-il déclaré à Euronews Next.
"Les personnalités célèbres et les politiciens sont particulièrement à risque car ils parlent beaucoup à la caméra, restent immobiles, regardent droit dans l'objectif. C'est une forme de vidéo plus facile à manipuler que s'ils se déplacent et que leur profil change », a-t-il expliqué.
Inonder les réseaux sociaux de deepfakes
Le même jour, la vidéo trafiquée de lui parlant anglais a été publiée – ce qui lui a valu principalement des partisans – Kilicdaroglu a averti ses abonnés sur les réseaux sociaux d'une éventuelle ingérence électorale.
"Jouer à Cambridge Analytica est au-delà de vos capacités, les garçons", a-t-il déclaré aux représentants du gouvernement sur Twitter, faisant référence à l'utilisation non autorisée de données personnelles et ciblées. campagne sur les réseaux sociaux pour faire basculer l'élection présidentielle américaine de 2016.
Les prochaines élections présidentielles et parlementaires turques pourraient mettre fin au règne de 20 ans d'Erdogan et [modifier le paysage politique du pays](https://www.euronews.com/2023/04/11/everything-you-need-to -connaître-les-élections-turques). Ils sont également l'une des premières élections majeures à faire face à une IA aussi avancée.
"Si vous pouvez inonder un discours sophistiqué et très humain sur de grands réseaux et des comptes inauthentiques avec un seul récit, cela pourrait évidemment jouer un rôle dans la prise de contrôle d'une sphère", a déclaré Ajder.
C'est exactement ce que les internautes ont essayé de réaliser en Turquie. Au cours des derniers mois, Teyit a fait face à une vague de contenus falsifiés et a démystifié ** [plus de 150 affirmations controversées relatives aux élections] (https://teyit.org/2023-secimleri), ** avec huit seuls sur 10 mai. Beaucoup d'entre eux étaient des deepfakes destinés à tromper les lecteurs en accusant des candidats (principalement de l'opposition) de terrorisme et d'incivilité.
"Il est facile de reconnaître que ce type de contenu est faux, mais ce n'est pas pour les personnes qui ne pensent plus de manière critique", a déclaré l'expert turc en intelligence artificielle Cem Say à Euronews Next.
La majorité des Turcs sont polarisés entre Erdogan et Kilicdaroglu, et les sondages prédisent actuellement une [course extrêmement serrée](https://www.euronews.com/2023/03/14/turkey-opinion-poll-tracker-erdogan- vs-kilicdaroglu) entre les deux candidats.
Le Parti de la justice et du développement (AKP) du président sortant a à plusieurs reprises poignardé ses concurrents, le plus récemment lors de son plus grand rassemblement à Istanbul, le 7 mai, lorsqu'un montage non divulgué de la vidéo de campagne de Kilicdaroglu a été diffusé sur des écrans géants.
La version deepfake avait été ajoutée à Murat Karayılan, un dirigeant du Parti des travailleurs du Kurdistan (PKK) - qui est répertorié par plusieurs autres pays et l'UE comme une organisation terroriste - applaudissant la chanson de campagne de l'opposition, tandis que les paroles "allez, allons tous voter » fustigé par les orateurs.
Dans une vidéo partagée sur les réseaux sociaux, Erdogan a demandé à environ 1,7 million de partisans assistant à son rassemblement "Est-ce que mes compatriotes nationaux et locaux voteraient pour ces personnes?" avant d'ajouter : "Regardez ça, c'est vraiment important !".
Un autre candidat à la présidence, Muharrem Ince, s'est retiré de la course jeudi après la diffusion d'une prétendue sex tape qu'il a qualifiée de deepfake.
Le fondateur et chef du parti de centre-gauche, laïc et nationaliste, le Parti de la patrie, qui était le principal adversaire d'Erdogan lors des élections de 2018, a déclaré qu'il avait subi une "diffamation" tout au long de la campagne de cette année.
"Ce que j'ai vu au cours des 45 derniers jours, je ne l'ai pas rencontré au cours des 45 dernières années", a déclaré Ince dans son [discours de démission](https://twitter.com/vekilince/status/ 1656623190180003841?s=20).
« Fausses vidéos, fausses photos… ils ont mis mon visage sur une vidéo tirée d'un site porno israélien », a-t-il ajouté, accusant les journalistes et les procureurs du pays de ne pas l'avoir protégé de la « fureur de la calomnie ».
Des experts comme Say craignent des tactiques de dernière minute encore plus agressives. "Les deepfakes pourraient être utilisés le jour des élections dans le but de décourager les gens d'aller aux urnes ou d'influencer leur décision", a-t-il déclaré, ajoutant que cela ne laisserait "pas de temps pour la vérification".
Ce qui peut être fait?
Alors que les progrès de l'intelligence artificielle ne montrent aucun signe de ralentissement, les experts en démystification sont dans une course contre les générateurs de contenu d'IA. Tout comme en Turquie, les deepfakes créés par des sources officielles ont commencé à faire leur chemin sur la scène politique aux États-Unis.
Après que le président Joe Biden a annoncé qu'il se présenterait à la réélection, le Comité national républicain opposé a publié une vidéo conçue par l'IA illustrant un avenir dystopique sous un deuxième mandat de Biden. Les experts préviennent déjà que les deepfakes seront l'un [des principaux défis de l'élection présidentielle américaine de 2024](https://www.axios.com/2023/04/29/how-ai-already-changing-2024-election? utm_source=newsletter&utm_medium=email&utm_campaign=newsletter_axioslogin&stream=top).
"Le côté détection des choses est un peu déprimant pour le moment", a déclaré Ajder. Selon lui, les outils certifiant la provenance du contenu sont prometteurs, mais risquent de créer une hiérarchie médiatique : si le vrai contenu n'est pas certifié, « les gens peuvent le rejeter comme faux quand cela leur convient », a-t-il expliqué. Sa recommandation est de s'en tenir à des sources médiatiques bien connues et capables de vérifier les faits.
C'est très délicat en Turquie, où 90 % des médias nationaux sont sous le contrôle du gouvernement, selon le groupe de défense de la liberté de la presse Reporters Sans frontières. Ceci - combiné avec [un octobre 2022](https://www.euronews.com/my-europe/2022/10/04/opposition-ngos-slam-turkeys-draft-law-on-criminalising- désinformation#:~:text=En vertu de%20la%20loi%2C%20les%20citoyens%20peuvent,20compte%20détails%20avec%20les%20autorités.) loi qui vise à limiter la "désinformation" - signifie que très peu de médias rapportent réellement sur les deepfakes en Turquie.
Anadolu, l'agence de presse du gouvernement turc, a été accusée de retenir les résultats des élections municipales d'Istanbul de 2019 remporté par l'opposition, et ce mois-ci, [un rapport de la mission d'observation électorale de l'OSCE](https://www.osce.org/files/f/documents/1/3/542502_0.pdf#page =14) s'est inquiété de l'impartialité de l'organisme national de régulation des médias, le RTÜK.
Quelques jours à peine avant que la nation ne se rende aux urnes, la série post-électorale du média indépendant turc 140journos est peut-être la plus puissante pour imaginer ce qui pourrait suivre - là encore avec l'aide de l'intelligence artificielle. Publié en mars à l'aide du générateur d'images AI Midjourney et du générateur de texte AI ChatGPT, il propose deux récits pour l'avenir de la Turquie.
La première histoire dépeint un Erdogan vaincu et fraîchement retraité. « Au début, c'était un peu difficile. Cependant, au fil du temps, j'en ai profité pour passer plus de temps avec ma famille, pour être plus proche de la nature et pour passer plus de temps pour moi", explique un bot se faisant passer pour l'homme politique, tandis que des photos de lui prenant le thé en peignoir illustrent le post. .
Dans l'autre récit, Erdogan n'a jamais abandonné le pouvoir et la Turquie est devenue un empire de style Star Wars visant à "construire la paix universelle".
À la question « Quels ont été les plus grands défis pour parvenir à ce succès ? », l'IA imitant Erdogan répond : « L'un de nos plus grands défis était de suivre le nouvel ordre du monde et de l'univers, et de suivre de près les développements technologiques. et s'y adapter constamment » - un clin d'œil au défi auquel tous les politiciens sont désormais confrontés avec l'IA.