Incidentes Asociados
La propaganda generada por IA se utiliza para distorsionar la realidad y desinformar a la opinión pública, incluso consiguiendo apoyo para una escalada militar en aguas ya turbulentas.
El Mar de China Meridional, conocido por su riqueza pesquera, importantes rutas marítimas y potenciales reservas energéticas, sigue siendo un foco de tensión geopolítica crucial. La disputa territorial entre Filipinas y China persiste a pesar de los acuerdos diplomáticos, con ambos países involucrados en enfrentamientos militares y advertencias públicas. La propaganda cada vez más sofisticada, impulsada por inteligencia artificial (IA), exacerba aún más las tensiones.
La IA ha revolucionado la propaganda política, permitiendo a los estados manipular la percepción pública a una escala sin precedentes. Un informe de Freedom House (https://freedomhouse.org/report/freedom-net/2023/repressive-power-artificial-intelligence) destaca campañas de desinformación impulsadas por IA en 16 países, utilizadas para sembrar dudas, difamar a la oposición o influir en el debate público. En Filipinas, los medios generados por IA se utilizan con frecuencia para estafas y desinformación.
En julio de 2024, un video deepfake (https://tribune.net.ph/2024/04/28/bbm-audio-deepfake-source-identified) que mostraba falsamente al presidente filipino Ferdinand Marcos Jr. ordenando un ataque contra China se volvió viral. El audio, generado por IA, imitaba fielmente la voz de Marcos, lo que provocó pánico. La Oficina de Comunicaciones Presidenciales (OCP) lo identificó rápidamente como falso. Una investigación posterior reveló que los responsables eran actores extranjeros, lo que llevó a las autoridades a advertir contra la desinformación generada por IA.
Si bien este incidente fue muy sonado, no fue un caso aislado. Canales de YouTube como PH TV utilizan inteligencia artificial y la manipulación tradicional de video y audio para difundir narrativas falsas, como la representación de acción militar estadounidense en las aguas en disputa. El canal incluye descargos de responsabilidad que etiquetan este tipo de contenido como "entretenimiento". Sin embargo, la investigación de los autores, aún no publicada, reveló que muchos espectadores aceptaron la desinformación como un hecho. Esto se reflejó en la sección de comentarios, donde las discusiones estuvieron muy polarizadas, con un fuerte sentimiento antichino y un apoyo inquebrantable a la intervención estadounidense. La intensidad y el volumen de dichas respuestas indican que muchos espectadores no cuestionaron las afirmaciones de los videos, sino que las amplificaron como si fueran verdades.
Si bien se desconoce quiénes son los verdaderos operadores de PH TV, el canal parece estar patrocinado por China o ser una entidad oportunista que explota temas polémicos para generar interacción. Varios informes de PressOne.PH, un medio de comunicación filipino, revelaron que los medios estatales chinos han difundido vídeos generados por IA como parte de su continua batalla narrativa con Filipinas.
Además de la manipulación de videos, China también emplea la "guerra cognitiva" (https://globalnation.inquirer.net/218006/china-using-operators-to-divide-ph-on-wps-nsc), utilizando personajes con IA para moldear la percepción pública. Por ejemplo, los periodistas Meng Zhe y Xu-Pan Yiru, del China Daily, han reconocido usar IA para ajustar su discurso (https://pressone.ph/in-depth-ai-bolsters-china-state-medias-tiktok-offensive-to-influence-narrative-on-sea-dispute/), afirmando que les ayuda a comprender mejor sus acentos. Sin embargo, los analistas se muestran escépticos, considerando estas mejoras impulsadas por la IA como parte de una estrategia más amplia para refinar la propaganda y fortalecer la influencia de China en el discurso internacional. Un informe de The Graphika sobre la Operación Naval Gazing descubrió una red de cuentas falsas, algunas con fotos de perfil generadas por IA, que promovían un discurso pro-China y amplificaban las narrativas favorables al expresidente filipino Rodrigo Duterte (en particular, las que apoyaban sus argumentos a favor de una mayor influencia regional china).
Hay mucho en juego en la disputa marítima entre China y Filipinas, donde las campañas locales de desinformación a veces socavan la posición del país para obtener beneficios económicos. La Agencia France-Presse descubrió una red coordinada de páginas de Facebook y canales de YouTube que se hacen pasar por fuentes de noticias legítimas mientras generan ingresos publicitarios mediante propaganda impulsada por IA. Se descubrió que páginas de contenido militar manipularon imágenes antiguas de ejercicios conjuntos para sugerir que Estados Unidos se prepara activamente para una guerra en la región.
La IA ha revolucionado la propaganda política, permitiendo a los estados manipular la percepción pública a una escala sin precedentes.
Una investigación posterior vinculó estos esfuerzos con un gestor de contenido central, revelando que cada artículo engañoso genera entre 20 y 70 dólares estadounidenses, y que la red acumula en conjunto más de 10 millones de seguidores. Analistas como Kenton Thibaut, investigador principal del Laboratorio de Investigación Forense Digital de Washington, y Albert Zhang, del Instituto Australiano de Política Estratégica, indican que, si bien los vínculos directos de la red con actores estatales siguen siendo inciertos, su contenido con frecuencia coincide con la postura de China sobre la disputa.
Este flujo constante de desinformación generada por IA distorsiona la realidad y podría alimentar la confusión y el miedo entre la población. Un estudio del PCO encontró que el 51 por ciento de los filipinos tiene dificultades para identificar noticias falsas y nueve de cada diez tienen dificultades para navegar por la información digital. La propaganda generada por IA podría explotar estas vulnerabilidades, profundizando las divisiones sociales y, en algunos casos, incluso logrando apoyo público para una escalada militar, a pesar de que Filipinas no está preparada para la guerra.
Para combatir la desinformación impulsada por la IA, el Congreso filipino está presentando proyectos de ley en la Cámara de Representantes que abordan el papel de la IA en la manipulación mediática, especialmente antes de las elecciones de 2025 (https://www.philstar.com/headlines/2024/08/12/2377229/bill-filed-regulate-artificial-intelligence-use-2025-polls). La legislación propuesta busca establecer un marco regulatorio integral (https://issuances-library.senate.gov.ph/bills/house-bill-no-9425-19th-congress) e imponer consecuencias legales para las actividades relacionadas con los deepfakes.
Aunque China carece de leyes de desinformación específicas para IA, sus regulaciones exigen un etiquetado claro del contenido generado por IA%20services%2C%20in) y la adhesión a narrativas sancionadas por el Estado. A falta de políticas de IA ejecutables, Filipinas ha recurrido a protestas diplomáticas contra China. Durante los primeros seis meses de mandato del presidente Marcos, el Departamento de Asuntos Exteriores presentó más de 130 protestas, con escaso éxito.
En respuesta a las crecientes tensiones, los periodistas también han comenzado a unirse a las misiones filipinas en aguas en disputa como parte de la "iniciativa de transparencia" del gobierno, que proporciona información en tiempo real sobre los acontecimientos para contrarrestar la desinformación. Si bien esta iniciativa busca promover la transparencia, también plantea inquietudes sobre la independencia periodística. Al depender del acceso del gobierno a las zonas en disputa, los periodistas pueden enfrentar presiones implícitas para alinearse con las narrativas nacionales, lo que podría comprometer su objetividad.
La propaganda impulsada por IA en la disputa del Mar de China Meridional aún es incipiente, pero los rápidos avances tecnológicos y la escalada de las tensiones regionales sugieren que su influencia no hará más que crecer. Mitigar su impacto requiere un esfuerzo coordinado. Los responsables políticos deben establecer regulaciones más estrictas para exigir responsabilidades a los actores maliciosos, mientras que las empresas tecnológicas deben invertir en herramientas de detección basadas en IA y mejorar la transparencia en la toma de decisiones algorítmica. La sociedad civil y los defensores de la alfabetización mediática deben dotar al público de habilidades de pensamiento crítico mediante educación específica y herramientas de verificación accesibles. Dada la naturaleza transfronteriza de la desinformación digital, la cooperación internacional será clave para mantener la integridad de la información.
Sin embargo, estos esfuerzos se enfrentan a crecientes desafíos a medida que las principales plataformas de redes sociales reducen la verificación de datos. La retirada de Meta de la verificación de datos (https://reutersinstitute.politics.ox.ac.uk/news/amid-war-vicious-attacks-and-political-turmoil-global-fact-checkers-fear-impact-end-metas) en la región y su reciente [interrupción de la verificación de datos por parte de terceros] (https://apnews.com/article/meta-facts-trump-musk-community-notes-413b8495939a058ff2d25fd23f2e0f43) en EE. UU. eliminan una protección clave contra la desinformación. X (anteriormente Twitter) también ha reemplazado la verificación de datos profesional por sus "Notas de la Comunidad" (https://www.washingtonpost.com/technology/2025/01/08/meta-fact-checking-community-notes-zuckerberg-x/), impulsadas por la comunidad, las cuales han sido criticadas por inconsistencias y retrasos. Con la transición de estas plataformas hacia la moderación descentralizada, la desinformación corre el riesgo de propagarse sin control. Para contrarrestar esto, los actores regionales deben invertir urgentemente en redes independientes de verificación de datos y fortalecer las iniciativas locales de verificación para evitar que la desinformación impulsada por la IA desestabilice la región.