Incidents associés
La propagande générée par l'IA est utilisée pour déformer la réalité et désinformer le public, allant même jusqu'à rallier des soutiens à l'escalade militaire dans des eaux déjà troubles.
La mer de Chine méridionale, connue pour ses riches ressources halieutiques, ses voies de navigation clés et ses réserves énergétiques potentielles, demeure un point chaud géopolitique crucial. Le conflit territorial entre les Philippines et la Chine persiste malgré les accords diplomatiques, les deux pays se livrant à des confrontations militaires et à des avertissements publics. La propagande de plus en plus sophistiquée, alimentée par l'intelligence artificielle (IA), exacerbe encore les tensions.
L'IA a révolutionné la propagande politique, permettant aux États de manipuler l'opinion publique à une échelle sans précédent. Un rapport de Freedom House met en lumière des campagnes de désinformation menées par l'IA dans 16 pays, visant à « semer le doute, diffamer des opposants ou influencer le débat public ». Aux Philippines, les médias générés par l'IA sont régulièrement utilisés à des fins d'escroquerie et de désinformation. En juillet 2024, une vidéo deepfake montrant le président philippin Ferdinand Marcos Jr ordonnant une attaque contre la Chine est devenue virale. L'audio généré par l'IA imitait fidèlement la voix de Marcos, provoquant la panique. Le Bureau de la communication présidentielle (PCO) l'a rapidement identifiée comme étant une fausse vidéo. Une enquête ultérieure a révélé que des acteurs étrangers étaient les coupables, ce qui a incité les autorités à mettre en garde contre la désinformation générée par l'IA.
Bien que cet incident ait été très médiatisé, il ne s'agissait pas d'un cas isolé. Des chaînes YouTube comme PH TV utilisent l'IA et la manipulation vidéo et audio traditionnelle pour diffuser de faux récits, comme la représentation d'une action militaire américaine dans les eaux contestées. La chaîne inclut des avertissements qualifiant ce type de contenu de « divertissement ». Cependant, les recherches des auteurs, non encore publiées, ont révélé que de nombreux téléspectateurs ont accepté cette désinformation comme un fait avéré. Cela s'est reflété dans la section commentaires, où les discussions étaient fortement polarisées, avec un fort sentiment anti-chinois et un soutien indéfectible à l'intervention américaine. L'intensité et le volume de ces réponses indiquent que de nombreux téléspectateurs n'ont pas remis en question les affirmations des vidéos, mais les ont amplifiées comme si elles étaient vraies.
Si les véritables opérateurs de PH TV restent inconnus, la chaîne semble être soit sponsorisée par la Chine, soit une entité opportuniste exploitant des sujets controversés pour susciter l'intérêt. Plusieurs rapports de PressOne.PH, un média philippin, ont révélé que les médias d'État chinois ont diffusé des vidéos générées par l'IA dans le cadre de leur bataille narrative en cours avec les Philippines.
Au-delà de la manipulation vidéo, la Chine recourt également à la « guerre cognitive » en utilisant des personnages assistés par l'IA pour façonner la perception du public. Par exemple, les journalistes Meng Zhe et Xu-Pan Yiru du China Daily ont reconnu utiliser l'IA pour ajuster leur discours, affirmant que cela les aidait à mieux comprendre leur accent. Les observateurs restent cependant sceptiques, considérant ces améliorations induites par l'IA comme faisant partie d'une stratégie plus large visant à affiner la propagande et à renforcer l'influence de la Chine sur le discours international. Un rapport de The Graphika sur l'opération Naval Gazing (https://www.iiss.org/publications/strategic-dossiers/asia-pacific-regional-security-assessment-2024/chapter-5/) a révélé un réseau de faux comptes, certains avec des photos de profil générées par l'IA, promouvant une rhétorique pro-chinoise et amplifiant les récits favorables à l'ancien président philippin Rodrigo Duterte (en particulier ceux soutenant ses arguments en faveur d'une influence régionale chinoise plus forte).
Les enjeux sont particulièrement importants dans le conflit maritime sino-philippin, où des campagnes locales de désinformation sapent parfois la position du pays à des fins financières. L'Agence France-Presse a découvert un réseau coordonné de pages Facebook et de chaînes YouTube se faisant passer pour des sources d'information légitimes, tout en générant des revenus publicitaires grâce à une propagande alimentée par l'IA. Il a été découvert que des pages à vocation militaire avaient manipulé d'anciennes images d'exercices conjoints pour suggérer que les États-Unis se préparaient activement à une guerre dans la région.
L'IA a révolutionné la propagande politique, permettant aux États de manipuler la perception du public à une échelle sans précédent.
Une enquête plus approfondie a lié ces efforts à un gestionnaire de contenu central, révélant que chaque article trompeur rapporte entre 20 et 70 dollars américains, le réseau rassemblant collectivement plus de 10 millions d'abonnés. Des analystes tels que Kenton Thibaut, chercheur principal au Digital Forensic Research Lab de Washington, et Albert Zhang de l'Australian Strategic Policy Institute, indiquent que si les liens directs du réseau avec les acteurs étatiques restent incertains, son contenu s'aligne fréquemment sur la position de la Chine sur le conflit.
Ce flux constant de désinformation générée par l'IA déforme la réalité et pourrait alimenter la confusion et la peur du public. Une étude du PCO a révélé que 51 % des Philippins ont du mal à identifier les fausses nouvelles, et que neuf sur dix rencontrent des difficultés à naviguer dans les informations numériques. La propagande générée par l'IA pourrait exploiter ces vulnérabilités, aggravant ainsi les divisions sociales et, dans certains cas, ralliant même le soutien du public à l'escalade militaire, malgré le manque de préparation des Philippines à la guerre.
Pour lutter contre la désinformation générée par l'IA, le Congrès philippin dépose des projets de loi visant à lutter contre le rôle de l'IA dans la manipulation des médias, notamment avant les élections de 2025. Ce projet de loi vise à établir un cadre réglementaire global et à sanctionner les activités liées aux deepfakes. Bien que la Chine ne dispose pas de lois spécifiques sur la désinformation en matière d'IA, sa réglementation impose un étiquetage clair du contenu généré par l'IA%20services%2C%20in) et l'adhésion aux récits sanctionnés par l'État. En l'absence de politiques d'IA applicables, les Philippines ont eu recours à des protestations diplomatiques contre la Chine. Au cours des six premiers mois du mandat du président Marcos, le ministère des Affaires étrangères a enregistré plus de 130 protestations, sans grand effet.
En réponse aux tensions croissantes, des journalistes ont également commencé à rejoindre les missions philippines dans les eaux contestées, dans le cadre de l'initiative gouvernementale pour la transparence, qui fournit des comptes rendus en temps réel des événements afin de lutter contre la désinformation. Si cette initiative vise à promouvoir la transparence, elle soulève également des inquiétudes quant à l'indépendance journalistique. En s'appuyant sur l'accès du gouvernement aux zones contestées, les journalistes peuvent être soumis à une pression implicite pour s'aligner sur les récits nationaux, ce qui pourrait compromettre leur objectivité.
La propagande basée sur l'IA dans le conflit en mer de Chine méridionale est encore émergente, mais les progrès technologiques rapides et l'escalade des tensions régionales suggèrent que son influence ne fera que croître. Atténuer son impact nécessite un effort coordonné. Les décideurs politiques doivent établir des réglementations plus strictes pour tenir les acteurs malveillants responsables de leurs actes, tandis que les entreprises technologiques devraient investir dans des outils de détection basés sur l'IA et améliorer la transparence des décisions algorithmiques. La société civile et les défenseurs de l'éducation aux médias devraient doter le public de compétences de réflexion critique grâce à une éducation ciblée et à des outils de vérification accessibles. Compte tenu du caractère transfrontalier de la désinformation numérique, la coopération internationale sera essentielle pour préserver l'intégrité de l'information.
Cependant, ces efforts se heurtent à des difficultés croissantes, les principales plateformes de médias sociaux réduisant la vérification des faits. Le retrait de Meta de la vérification des faits dans la région et son récent arrêt de la vérification des faits par des tiers aux États-Unis suppriment une mesure de protection essentielle contre la désinformation. X (anciennement Twitter) a également remplacé la vérification professionnelle des faits par ses « Notes communautaires » (https://www.washingtonpost.com/technology/2025/01/08/meta-fact-checking-community-notes-zuckerberg-x/), gérées par la communauté, qui ont été critiquées pour leurs incohérences et leurs lenteurs. Avec le passage de ces plateformes à une modération décentralisée, la désinformation risque de se développer sans contrôle. Pour y remédier, les acteurs régionaux doivent investir de toute urgence dans des réseaux indépendants de vérification des faits et renforcer les initiatives locales de vérification afin d'empêcher la désinformation alimentée par l'IA de déstabiliser la région.