Incidents associés
MANILLE, Philippines --- La vice-présidente Sara Duterte a défendu l'utilisation de l'intelligence artificielle pour renforcer le soutien à des personnalités politiques comme elle, ne fixant une limite que lorsque le produit final est vendu dans un but lucratif.
Duterte a partagé cela lors d'une conférence de presse le lundi 16 juin, au cours de laquelle elle a été interrogée sur le sénateur Bato dela Rosa et son frère, Sebastian Duterte, partageant une vidéo générée par l'IA la soutenant contre les efforts de destitution.
Elle a déclaré: "Wala Namang Problema Siguro sur le partage de la vidéo AI en soutien à la même chose que l'hindi ginagawang negosyo."
(Il n'y a probablement aucun problème à partager une vidéo IA pour me soutenir tant qu'elle n'est pas utilisée à des fins lucratives.)
"Kumbaga, si j'étais propriétaire d'un compte sur les réseaux sociaux et que je demandais à AI de soutenir une certaine personnalité, j'aurais un problème avec ça dahil 'di ko naman sya ginagawang negosyo", a déclaré Duterte. (En d'autres termes, si j'étais propriétaire d'un compte sur les réseaux sociaux et que je créais une IA pour soutenir une certaine personnalité, cela ne poserait aucun problème, puisque je n'en ferais pas un business.)
Cependant, une étude de 2023 menée par des chercheurs en désinformation et en sociologie a révélé que les opérations d'influence politique fonctionnent précisément en brouillant les frontières entre utilisation commerciale et non commerciale du contenu, en le faisant apparaître comme organique et non commercial même lorsqu'il s'agit de campagnes organisées et financées.
Bien qu'elle ne se soit pas spécifiquement concentrée sur le contenu généré par l'IA, l'étude, qui a examiné les élections nationales de 2022, a révélé que même les influenceurs politiques qui se présentent comme des « bénévoles » et des sympathisants organiques « monétisent leur engagement politique grâce à des programmes de création de plateformes et d'autres incitations, en plus d'autres gains financiers ».
Plus important encore, l'étude, publiée par Internews, a démontré que « l'anonymat est essentiel » dans ces opérations, « les clients, les intermédiaires et les influenceurs eux-mêmes effectuant des transactions avec diverses configurations d'anonymat pour échapper aux risques, à la surveillance et à la réglementation ».
Cela signifie que ce qui semble être un soutien populaire non commercial – celui que Duterte considère comme acceptable – peut en réalité faire partie de campagnes d'influence sophistiquées conçues pour paraître organiques.
Déjà un fléau mondial, la désinformation générée par l'IA a atteint de nouveaux sommets lors des récentes élections de mi-mandat aux Philippines, avec des deepfakes sophistiqués et des contenus manipulés ciblant des personnalités politiques de tous bords.
Une analyse de Tsek.ph a révélé que près d'un tiers des allégations modifiées identifiées pendant la campagne impliquaient probablement la technologie deepfake. Un deepfake généré par l'IA et signalé par un partenaire de Tsek.ph impliquait la création d'un faux discours en mandarin de Duterte.
En général, les deepfakes ont été utilisés pour « exploiter les divisions politiques, inventer des soutiens étrangers et exploiter l'attrait des célébrités pour manipuler le sentiment des électeurs », selon l'analyse de Tsek.ph.
Dela Rosa ridiculisée pour une fausse vidéo
Les commentaires de Duterte interviennent après que Dela Rosa a été critiquée ce week-end pour avoir partagé une vidéo générée par l'IA, malgré des indications claires indiquant qu'elle était fausse.
La vidéo montrait des étudiants défendant Duterte contre la destitution, avec un hashtag #AI en légende et un filigrane « Veo ». Google a créé ce filigrane pour mieux identifier les vidéos comme générées par l'IA.
Dela Rosa a partagé la vidéo avec la légende : « Mabuti pa ang mga bata, nakakaintindi sa mga pangyayari. Makinig kayo, mga yellow at mga komunista ! » (Heureusement que les jeunes comprennent ce qui se passe. Écoutez bien, vous les jaunes et les communistes !)
Lorsque les critiques ont souligné l'inauthenticité de la vidéo, Dela Rosa les a qualifiés de trolls et a déclaré que le message importait plus que le fait qu'elle ait été générée par l'IA.
« L'IA est si puissante qu'elle peut être utilisée pour créer des personnages. Si l'IA est si puissante qu'elle peut être utilisée pour créer des personnages, elle peut être utilisée pour créer des personnages, a-t-il déclaré. » (J'ai dit : si c'est de l'IA, son créateur a raison. Si ce n'est pas de l'IA, alors les jeunes qui parlent ont raison.)
Utilisation de ChatGPT pour des scripts « anti-Sara »
Lors de la même conférence de presse, Duterte a accusé plusieurs entreprises anonymes de mener des campagnes rémunérées contre sa famille.
Cela fait suite à la publication par OpenAI, l'organisation à l'origine du chatbot génératif ChatGPT, d'IA, d'un rapport révélant qu'une agence de relations publiques philippine a utilisé sa plateforme pour générer des milliers de commentaires pro-Marcos et de contenus anti-Duterte, appelant notamment Duterte à plusieurs reprises « Princesse Fiona » de la série de films Shrek.
« Meron pang mga ibang kumpanya na alam namin na ganoon ang ginagawa nila at alam din namin na bayad sila (Nous savons que d'autres entreprises font la même chose et nous savons aussi qu'elles sont rémunérées) », a-t-elle déclaré, affirmant que ces efforts visent à saper ses ambitions présidentielles pour 2028.
Pas de gouvernance de l'IA, pas de lois
Les Philippines ont peiné à établir une gouvernance globale de l'IA en l'absence de loi.
Alors que le ministère du Commerce et de l'Industrie a lancé en 2021 une feuille de route stratégique nationale sur l'IA, qui donne la priorité au développement économique et aux infrastructures, la législation spécifique à l'IA dans le contexte de la désinformation et des réseaux sociaux n'a pas encore été concrétisée.
Plusieurs projets de loi visant à établir une charte des droits de l'IA et à réglementer son utilisation et sa capacité à influencer les processus électoraux n'ont pas été adoptés par le 19e Congrès. Cela signifie que les législateurs doivent à nouveau déposer des projets de loi devant le 20e Congrès.
La Commission électorale n'a publié des lignes directrices sur l'IA qu'en septembre 2024, soit des mois avant le début de la campagne électorale en février.