Incidentes Asociados
MANILA, Filipinas --- La vicepresidenta Sara Duterte ha defendido el uso de la inteligencia artificial para potenciar el apoyo a figuras políticas como ella, trazando una línea sólo cuando el producto final se vende con fines de lucro.
Duterte compartió esto durante una conferencia de prensa el lunes 16 de junio, donde le preguntaron sobre el senador Bato dela Rosa y su hermano, Sebastian Duterte, que compartieron un video generado por IA apoyándola contra los esfuerzos de impeachment.
Ella dijo: "Wala namang problema siguro sa pag share ng AI video in support sa similar basta hindi ginagawang negosyo".
(Probablemente no haya ningún problema en compartir un vídeo de IA en mi apoyo, siempre y cuando no se utilice con fines de lucro).
"Kumbaga, si yo fuera propietario de una cuenta de redes sociales y usara IA para apoyar a una determinada personalidad, no sería un problema cuando dahil 'di ko naman sya ginagawang negosyo", dijo Duterte.
(En otras palabras, si tuviera una cuenta en redes sociales y creara una IA para apoyar a cierta personalidad, no habría problema, ya que no estoy haciendo un negocio con ello).
Sin embargo, un estudio de 2023 realizado por investigadores en desinformación y sociología descubrió que las operaciones de influencia política funcionan precisamente difuminando los límites entre el uso comercial y no comercial del contenido, aparentando ser orgánicas y no comerciales incluso cuando forman parte de campañas organizadas y financiadas.
Si bien no se centró específicamente en el contenido generado por IA, el estudio, que examinó las elecciones nacionales de 2022 (https://internews.org/wp-content/uploads/2023/07/InternewsPH_July2023_Political-Economy-of-Covert-Influence-Operations-in-the-2022-Philippine-Elections-2.pdf), descubrió que incluso los influencers políticos que afirman trabajar como "voluntarios" y simpatizantes orgánicos siguen "monetizando su participación política a través de programas para creadores de plataformas y otros incentivos, además de otras ganancias financieras".
Más críticamente, el estudio, publicado por Internews, demostró que el anonimato es fundamental en estas operaciones, ya que los clientes, intermediarios y los propios influencers realizan transacciones con diversas configuraciones de anonimato para evadir riesgos, escrutinio y regulación.
Esto significa que lo que parece ser un apoyo popular no comercial (el que Duterte considera aceptable) puede, en realidad, formar parte de sofisticadas campañas de influencia diseñadas para parecer orgánicas.
La desinformación generada por IA, ya una plaga mundial, alcanzó nuevas cotas durante las recientes elecciones intermedias de Filipinas, con sofisticados deepfakes y contenido manipulado dirigido a figuras políticas de todos los partidos.
Un análisis de Tsek.ph reveló que casi un tercio de las afirmaciones alteradas identificadas durante la campaña probablemente involucraban tecnología deepfake. Un deepfake generado por IA, detectado por un socio de Tsek.ph, implicaba la creación de un discurso falso en mandarín de Duterte.
En general, los deepfakes se utilizaron para "explotar las divisiones políticas, inventar apoyo extranjero y explotar el atractivo de las celebridades para manipular la opinión pública", según el análisis de Tsek.ph.
Dela Rosa ridiculizada por un video falso
Los comentarios de Duterte se produjeron después de que Dela Rosa recibiera críticas durante el fin de semana por compartir un video generado por IA a pesar de que las marcas claras indicaban que era falso.
El video mostraba imágenes de estudiantes defendiendo a Duterte contra el impeachment, con la etiqueta #AI en el pie de foto y una marca de agua "Veo". Google creó esta marca de agua para que los videos fueran más identificables como generados por IA.
Dela Rosa compartió el video con la leyenda: "Mabuti pa ang mga bata, nakakaintindi sa mga pangyayari. Makinig kayo, mga yellow at mga komunista!" (Menos mal que los niños entienden lo que está pasando. ¡Escuchen, amarillos y comunistas!)
Cuando los críticos señalaron la falta de autenticidad del video, Dela Rosa los descartó como trolls y dijo que el mensaje importaba más que si había sido generado por IA.
"Sabi ko kung AI man 'yan, may punto ang gumawa. Kung hindi 'yan AI, may punto ang mga bata na nagsasalita", dijo. (Dije, si eso es IA, el creador tiene razón. Si no es IA, entonces los niños que hablan tienen razón).
Uso de ChatGPT para scripts "anti-Sara"
En la misma conferencia de prensa, Duterte acusó a varias empresas anónimas de realizar campañas pagadas contra su familia.
Esto ocurre después de que OpenAI, la organización detrás del chatbot generativo de IA ChatGPT, publicara un informe que revelaba que una firma filipina de relaciones públicas utilizó su plataforma para generar miles de comentarios a favor de Marcos y contenido en contra de Duterte, incluyendo llamar repetidamente a Duterte "Princesa Fiona" de la saga de películas Shrek.
"Meron pang mga ibang kumpanya na alam namin na ganoon ang ginagawa nila at alam din namin na bayad sila (Hay otras empresas que sabemos que hacen lo mismo y también sabemos que reciben dinero)", declaró, afirmando que estos esfuerzos buscan socavar sus ambiciones presidenciales de 2028.
Sin gobernanza ni leyes de IA
Filipinas ha tenido dificultades para establecer una gobernanza integral de la IA en ausencia de una ley vigente.
Si bien el Departamento de Comercio e Industria lanzó una Hoja de Ruta Nacional para la Estrategia de IA en 2021 que priorizaba el desarrollo económico y la infraestructura, aún no se ha materializado la legislación específica sobre IA en el contexto de la desinformación y las redes sociales.
Varios proyectos de ley que buscaban establecer una carta de derechos sobre la IA y regular su uso y capacidad para influir en los procesos electorales no lograron ser aprobados en el 19.º Congreso. Esto significa que los legisladores deben volver a presentar proyectos de ley ante el 20.º Congreso.
La Comisión de Elecciones sólo emitió las directrices de inteligencia artificial en septiembre de 2024, meses antes de que comenzara el período de campaña en febrero.