Problema 5453

Días después de que el Senado filipino declinara iniciar el juicio político contra la vicepresidenta del país, dos entrevistas con filipinos que argumentaban a favor y en contra de la medida se hicieron virales.

Ninguna de las dos era real.

Los estudiantes y la anciana que presentaban sus argumentos eran creaciones de inteligencia artificial, ejemplos de falsificaciones cada vez más sofisticadas posibles incluso con herramientas en línea básicas.

"¿Por qué señalar a la vicepresidenta?", pregunta un niño creado digitalmente con uniforme escolar blanco, argumentando que el caso tenía motivaciones políticas.

La Cámara de Representantes destituyó a Sara Duterte a principios de febrero por cargos de corrupción y un supuesto complot para asesinar a su exaliado y compañero de fórmula, el presidente Ferdinand Marcos.

Un veredicto de culpabilidad en el Senado resultaría en su destitución y una prohibición de por vida de la política filipina.

Sin embargo, tras reunirse como tribunal de juicio político el 10 de junio, el órgano superior devolvió inmediatamente el caso a la Cámara, cuestionando su constitucionalidad.

El senador Ronald dela Rosa, aliado de Duterte, compartió el video de los estudiantes —visto millones de veces desde entonces—, elogiando a los jóvenes por tener una "mejor comprensión de lo que está sucediendo" que sus homólogos adultos.

El hermano menor de la vicepresidenta, Sebastián, alcalde de Davao, bastión familiar, afirmó que el video demostraba que los "liberales" no contaban con el apoyo de las generaciones más jóvenes.

Cuando se reveló que los estudiantes eran creaciones digitales, la vicepresidenta y sus partidarios no se inmutaron.

"No hay problema en compartir un video de IA para apoyarme. Siempre y cuando no se convierta en un negocio", declaró Duterte a la prensa.

"Aunque sea IA... estoy de acuerdo", afirmó Dela Rosa, quien fuera la responsable de la guerra contra las drogas del expresidente Rodrigo Duterte.

- Cinco minutos de trabajo -

El video que defiende el impeachment, también con millones de visualizaciones, muestra a una anciana vendiendo pescado y criticando al Senado por no celebrar un juicio.

"Ustedes, los 18 senadores, cuando son los pobres los que roban, quieren que los encierren de inmediato, sin hacer preguntas. Pero si es la vicepresidenta la que robó millones, la protegen con fiereza", dice en tagalo.

Ambos videos tenían una marca de agua apenas perceptible de la plataforma de generación de videos de Google, Veo.

Los verificadores de datos de AFP también identificaron inconsistencias visuales, como cabello y dientes excesivamente lisos y escaparates con letreros ilegibles.

El creador del video del vendedor de pescado, Bernard Senocip, de 34 años, declaró a AFP que le tomó unos cinco minutos producir el clip de ocho segundos.

Contactado a través de su página de Facebook, Senocip defendió su trabajo en una videollamada, afirmando que los personajes de IA permitían a las personas expresar sus opiniones, evitando las "duras críticas" frecuentes en redes sociales.

"Siempre que se conozcan las limitaciones y no se engañe a la audiencia, creo que está bien", dijo, señalando que, a diferencia de la versión de Facebook, había colocado la etiqueta "creado por IA" en la publicación del video en TikTok.

Si bien AFP ha informado anteriormente sobre sitios web que utilizan temas polémicos de Filipinas para generar ingresos, Senocip afirmó que su trabajo era simplemente una forma de expresar sus opiniones políticas.

El creador del video del estudiante, el administrador anónimo de la popular página de Facebook Ay Grabe, se negó a ser entrevistado, pero afirmó que las opiniones de sus creaciones de IA se habían extraído de estudiantes reales.

AFP, junto con otros medios de comunicación, recibe pagos de algunas plataformas como Meta, Google y TikTok por su trabajo en la lucha contra la desinformación.

- 'Zona gris' -

Usar IA para impulsar puntos de vista a través de personas aparentemente comunes puede hacer que las creencias parezcan "más populares de lo que realmente son", afirmó José Mari Lanuza, del Centro de Investigación Sigla, una organización sin fines de lucro que estudia la desinformación.

"En el caso del impeachment, este contenido fomenta la desconfianza no solo hacia legisladores específicos, sino también hacia el proceso de impeachment".

Si bien algunas empresas de IA han desarrollado medidas para proteger a las figuras públicas, José Miguelito Enriquez, investigador asociado de la Universidad Tecnológica de Nanyang, afirmó que los recientes videos filipinos son un caso aparte.

Algunas empresas de IA como OpenAI se comprometieron previamente a evitar que los usuarios generaran deepfakes de 'personas reales', incluidos candidatos políticos, afirmó.

Pero estas entrevistas con personas de la calle representan una zona gris porque, técnicamente, no utilizan la imagen de una persona real.

Crear "humanos" realistas también es cada vez más fácil, afirmó Dominic Ligot, fundador de Data and AI Ethics PH.

Veo es solo la última de una serie de herramientas en rápida evolución para la generación de medios con IA, y añadió que la versión más reciente produce "movimientos y profundidad más fluidos y realistas en comparación con los modelos de vídeo con IA anteriores".

Google no respondió cuando AFP preguntó si había desarrollado medidas de seguridad para evitar que Veo se utilizara para difundir desinformación.

Para Ligot, es fundamental establecer medidas de seguridad frente a la rápida evolución de la tecnología, advirtiendo que la IA se utiliza cada vez más para "influir en cómo se sienten las personas reales, presionar a los responsables de la toma de decisiones y distorsionar el discurso democrático".