Problema 5444

MANILA, Filipinas --- El senador Ronald "Bato" Dela Rosa compartió sin complejos un video generado por IA de estudiantes filipinos oponiéndose al juicio político de la vicepresidenta Sara Duterte.

El video de 30 segundos que republicó (http://archive.today/Npj9h) el domingo 15 de junio acumuló rápidamente millones de visualizaciones, además de miles de comentarios y compartidos por usuarios que asumieron que era real.

El video mostraba una entrevista improvisada con un ciudadano común, en la que se preguntaba a estudiantes generados por IA si apoyaban el juicio político. Los falsos estudiantes se opusieron, argumentando que la Oficina del Vicepresidente estaba siendo "señalada" por fondos confidenciales.

Cuando Dela Rosa compartió el video en Facebook, su descripción sugería que tal vez desconocía que estaba generado por IA, a pesar de que la publicación original incluía la etiqueta "#AI".

"¡No se preocupen por los pantalones! ¡Agreden a los comunistas!", decía el pie de foto de la publicación.

(¡Hasta los niños entienden lo que está pasando! ¡Escuchen, amarillistas y comunistas!)

El argumento es un ejemplo clásico de "y qué hay de ti", que intenta desviar la atención de las acusaciones de corrupción planteando preguntas sobre el uso de fondos confidenciales por parte de otras agencias.

¿Funcionarios compartiendo videos de IA?

La publicación generó críticas de usuarios que advirtieron que, dada su posición, compartir contenido tan engañoso podría hacer que muchos crean que videos como ese son reales.

En lugar de abordar directamente la autenticidad del video, Dela Rosa respondió a un comentario con un evasivo "kung (si)". Dijo que lo más importante era el mensaje, con el que estaba de acuerdo, independientemente de su autenticidad.

"Si alguien tiene IA, puede decir algo, pero si no, puede decir algo", dijo.

(Dije: si eso es IA, quien la creó tiene razón; si no, los jóvenes que hablan tienen razón).

"De cualquier manera, el punto es muy claro y estoy de acuerdo. Estoy de acuerdo con el mensaje, no con el mensajero. Ya sea un video o una publicación escrita con IA, estoy de acuerdo con el mensaje que transmite", añadió Dela Rosa.

La periodista filipina Regine Cabato, quien cubre desinformación y operaciones de influencia, declaró a Philstar.com en un mensaje que funcionarios como Dela Rosa tienen una "mayor responsabilidad" de no convertirse en "superdifusores" de contenido falso.

Esto es especialmente cierto para legisladores como él, quienes pueden votar en casos de impeachment y deberían basar sus decisiones en hechos verificados, en lugar de buscar información que solo confirme sus propios sesgos, añadió.

Si bien la senadora afirmó que es aceptable estar de acuerdo con el mensaje, pero no con el mensajero, Cabato argumentó que esto ignora el hecho de que el medio es también el mensaje, lo que hace que ambos sean inseparables.

Cómo detectarlo. En la sección de comentarios de la publicación de Dela Rosa, algunos usuarios de redes sociales también se apresuraron a decirle que el video que compartió fue generado por IA. Otros incluso publicaron sus análisis mostrando indicios reveladores de manipulación artificial.

Entre las señales de alerta se encontraban el texto sin sentido e ilegible en el polo del estudiante, que tenía dos logotipos diferentes, los nombres ilegibles de los vendedores ambulantes cercanos y las matrículas de los triciclos distorsionadas.

Incluso con imágenes cada vez más realistas, los videos generados por IA a menudo se quedan cortos a la hora de animar el movimiento natural de la boca y los dientes. Esta es una de las pistas clave para detectar contenido sintético que no sean dedos y pupilas.

El video viral lleva el logo "Veo" en la esquina inferior derecha, lo que indica que fue producido usando Veo 3, el último modelo de inteligencia artificial de Google, que es capaz de crear videos altamente realistas con audio y voz sincronizados a partir de solo un mensaje de texto o imagen.

En una rueda de prensa el lunes, la responsable de prensa de Palacio, Claire Castro, también dijo que los funcionarios del gobierno deberían abstenerse de compartir vídeos generados por IA, ya que hacerlo podría dañar la credibilidad de las instituciones públicas.

"Hindi po sana nanggagaling sa mga opisyal ng pamahalaan. Nakakaduda, pero nakakawala ng tiwala kung mismong sa matataas na mga nanggagaling ang mga desinformación y noticias falsas", dijo en una rueda de prensa el lunes.

(Esto no debería provenir de funcionarios del gobierno. Es dudoso; erosiona aún más la confianza cuando la desinformación y las noticias falsas provienen de los propios funcionarios de alto rango).

Evadiendo responsabilidades

Sin embargo, Dela Rosa pasó por alto los peligros de promover videos e imágenes generados por IA con carga política, que, con sus visuales hiperrealistas, podrían engañar fácilmente a los espectadores.

"No me importa si esta publicación es generada por IA o por Manobo, porque no busco al mensajero, busco el mensaje, así que, por favor, no le discriminen sin leer el mensaje que transmite", dijo en una publicación del 16 de junio.

**Por qué es perjudicial. **Expertos han advertido repetidamente que el rápido aumento de deepfakes y contenido generado por IA está impulsando campañas de desinformación, muchas de ellas con fines de lucro, incentivadas por la monetización de las visualizaciones y la interacción.

En Filipinas, los deepfakes que presentan a figuras públicas influyentes se han utilizado como arma para pulir reputaciones o mancharlas con afirmaciones falsas. Esto también se ha observado durante las últimas elecciones.

Cabato señaló el video del polvorón como un ejemplo de deepfakes utilizados para ataques políticos, describiéndolo como una "acción demoledora" contra el presidente Ferdinand "Bongbong" Marcos Jr. El video, que acusa a Marcos de consumir drogas ilegales, no solo fue compartido por influencers pro-Duterte, sino también por cuentas sospechosas presuntamente vinculadas a China.

"Eso significa que actores maliciosos buscan constantemente aprovecharse de la vulnerabilidad del público a la IA, independientemente de su afiliación política", afirmó Cabato.

Estas tácticas refuerzan la influencia de las granjas de trolls y las campañas de desinformación orquestadas, que se ven reforzadas por la falta de alfabetización mediática y digital en el país.

Publicado el 14 de junio por la página de Facebook AY GRABE, que frecuentemente presenta videos generados por IA con sutiles advertencias, el video viral ha acumulado 7,6 millones de visualizaciones, 68.000 compartidos y cerca de 20.000 comentarios.

Se difundió rápidamente a medida que varias cuentas lo volvían a subir como contenido nuevo. Algunos editaron el video para incluir su reacción o comentario, lo que ayudó a que publicaciones similares tuvieran más interacción.

Cabato enfatizó que los legisladores solo pueden realizar su trabajo eficazmente si basan la legislación en datos concretos y hechos verificados. Sin esto, aprobar las leyes necesarias para proteger el bienestar de la gente y la soberanía del país solo enfrentaría grandes obstáculos.

"¿Cómo podemos esperar que los legisladores aprueben leyes bien informadas que regulen la IA o que protejan nuestra ciberdefensa contra China si ellos mismos difunden deepfakes, solo porque les dicen lo que quieren oír?", preguntó.