Incidentes Asociados
Facebook y YouTube dijeron el miércoles que eliminaron las cargas de un video falso del presidente ucraniano Volodymyr Zelensky que pretendía mostrarlo cediendo ante Rusia.
El deepfake se difundió ampliamente en línea el miércoles, como lo notó anteriormente Motherboard de Vice. En el video, que CNN Business revisó, Zelensky parece pararse detrás de un podio presidencial y frente a un telón de fondo, ambos con el escudo de armas de Ucrania. Con una camisa verde, Zelensky habla en ucraniano y parece decirles a los ucranianos que depongan las armas en la guerra contra Rusia que lleva semanas.
Deepfakes, que combinan los términos "aprendizaje profundo" y "falso", son archivos de audio y video de aspecto persuasivo pero falsos. Realizados con tecnología de inteligencia artificial de vanguardia y relativamente accesible, tienen como objetivo mostrar a una persona real haciendo o diciendo algo que no hizo. Durante mucho tiempo, a los expertos les preocupa que, a medida que mejoren, se utilicen para difundir información errónea.
En una serie de publicaciones en Twitter el miércoles por la tarde, el jefe de política de seguridad de Meta, Nathaniel Gleicher, escribió que la compañía detectó y eliminó el video ese mismo día. “Revisamos y eliminamos rápidamente este video por violar nuestra política contra medios engañosos y manipulados, y notificamos a nuestros pares en otras plataformas”, escribió.
La portavoz de YouTube, Ivy Choi, dijo que el video y las recargas se eliminaron de la plataforma porque viola las políticas de desinformación de la compañía. "Permitimos este video si proporciona suficiente contexto educativo, documental, científico o artístico", dijo Choi en un comunicado.
Un portavoz de Twitter dijo que la compañía está rastreando cómo se comparte el video en la red social y ha tomado "medidas de cumplimiento" en los casos en que viola las reglas de la compañía (como su política de medios sintéticos y manipulados, que prohíbe a los usuarios compartir contenido alterado que puede confundir a las personas o causar daño; en algunos casos, Twitter puede etiquetar los tweets que contienen contenido multimedia engañoso para dar a los usuarios más contexto).
Si bien el video no parece tremendamente manipulado, hay algunas señales reveladoras de que el video no es lo que parece ser. Y el mismo Zelensky apareció en un video publicado en una cuenta oficial de defensa de Ucrania en Twitter, diciendo que continúa defendiendo a Ucrania y negándose a deponer las armas contra Rusia.
Hany Farid, profesor de la Universidad de California, Berkeley, y experto en análisis forense digital, señaló varios de los signos evidentes de que el video es un deepfake. Primero, es una grabación de baja calidad y baja resolución; este es un truco común para ocultar las distorsiones creadas al hacer un deepfake, ya que nuestros cerebros tienden a ser más indulgentes con los fallos en videos de baja calidad. En segundo lugar, el Zelensky en el video mira hacia adelante sin mover los brazos a lo largo del clip; es muy complicado hacer un deepfake convincente que incluya movimientos de cabeza y manos moviéndose frente a la cara. En tercer lugar, hay pequeñas inconsistencias visuales en el video, señaló, que ocurren durante el proceso de creación de una falsificación profunda, que se crea un solo cuadro a la vez. Aunque la voz de Zelensky es más difícil de comentar para Farid, en parte porque no habla ucraniano, dijo que le suena un poco raro.
El video llega semanas después de que la cuenta oficial de Facebook de las Fuerzas Terrestres de Ucrania publicara una advertencia de que podrían aparecer tales videos de Zelensky. "Tenga cuidado: ¡esto es falso!" escribió la cuenta, y pronto agregó: "Tenga la seguridad: ¡Ucrania no capitulará!" Esa advertencia estuvo acompañada de una imagen que parecía mostrar a Zelensky con una camiseta similar a la que aparecía en el video falso, frente al mismo telón de fondo y detrás del mismo podio.
A partir del miércoles por la tarde, el video aún se podía encontrar en línea, como en algunas publicaciones que CNN Business detectó en Twitter y YouTube en las que los usuarios dejaron en claro que se trataba de una falsificación profunda.
Si bien Farid no cree que el video engañe a la gente, cree que "enturbia las aguas de la información", lo que dificulta que cualquiera confíe en lo que ve.
“Sembrar dudas sobre lo que ves, escuchas y lees es un arma muy poderosa en la guerra de la información y los deepfakes ahora juegan un papel en eso”, dijo Farid.