Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 3334

Incidentes Asociados

Incidente 1989 Reportes
Deepfake Video of Ukrainian President Yielding to Russia Posted on Ukrainian Websites and Social Media

Loading...
El video deepfake de Zelenskyy podría ser la "punta del iceberg" en la guerra de la información, advierten los expertos
npr.org · 2022

Un video falso y fuertemente manipulado que representa al presidente ucraniano Volodymyr Zelenskyy circuló en las redes sociales y fue colocado en un sitio web de noticias ucraniano por piratas informáticos el miércoles antes de ser desacreditado y eliminado.

El vídeo, que muestra una representación del presidente ucraniano que parece decirles a sus soldados que depongan las armas y rindan la lucha contra Rusia, es un llamado deepfake que duró aproximadamente un minuto.

Aún no está claro quién creó el deepfake, pero los funcionarios del gobierno de Ucrania han estado advirtiendo durante semanas sobre la posibilidad de que Rusia difunda videos manipulados como parte de su guerra de información. Agencia de inteligencia militar de Ucrania [publicada](https://twitter.com/DI_Ukraine/status/1499157365937119235?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1499157365937119235%7Ctwgr%5E%7Ctwcon%5Es1_& ref_url=https%3A%2F% 2Fwww.vice.com%2Fen%2Farticle%2F93bmda%2Fhacked-news-channel-and-deepfake-of-zelenskyy-surrendering-is-causing-chaos-online) un video de este mes sobre cómo los deepfakes patrocinados por el estado podrían usarse para sembrar pánico y confusión.

Si bien el video muestra una sincronización de labios aceptable, los espectadores rápidamente señalaron que el acento de Zelenskyy no era correcto y que su cabeza y su voz no parecían auténticas tras una inspección minuciosa.

Funcionarios en [Facebook](https://twitter.com/ngleicher/status/1504186935291506693?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1504186935291506693%7Ctwgr%5E%7Ctwcon%5Es1_&ref_ url=https%3A%2F%2Fwww. vice.com%2Fen%2Farticle%2F93bmda%2Fhacked-news-channel-and-deepfake-of-zelenskyy-surrendering-is-causing-chaos-online), YouTube y Twitter dijeron que el video fue eliminado de sus plataformas por violar las políticas. Mientras tanto, en las redes sociales rusas se difundió el vídeo engañoso.

"Este es el primero que hemos visto que realmente tiene algunas piernas, pero sospecho que es la punta del iceberg", dijo Hany Farid, profesor de la Universidad de California en Berkeley, experto en análisis forense de medios digitales.

Se informó que hoy se subió un deepfake del presidente ucraniano Volodymyr Zelensky pidiendo a sus soldados que depongan las armas en un sitio web de noticias ucraniano pirateado, según @Shayan86 pic.twitter.com/tXLrYECGY4

— Mikael Thalen (@MikaelThalen) [16 de marzo de 2022] (https://twitter.com/MikaelThalen/status/1504123674516885507?ref_src=twsrc%5Etfw)

En un video publicado en su canal de Telegram, Zelenskyy respondió al video falso diciendo: "Estamos defendiendo nuestra tierra, nuestros hijos, nuestras familias. Así que "No planeo deponer las armas. Hasta nuestra victoria".

Sin embargo, el mensaje no sólo se difundió en las redes sociales. También apareció brevemente en la televisión de Ucrania y en el sitio web de una emisora de noticias.

La cadena de televisión nacional Ucrania 24 confirmó que los piratas informáticos lograron enviar el mensaje falso de Zelenskyy en directo televisión en el rastreo de noticias de texto en desplazamiento conocido como "the ticker", y el video apareció brevemente en el sitio web de la estación de noticias. Fue obra de "hackers enemigos", dijo la estación.

Los mensajes que los piratas informáticos lograron transmitir a través de Ucrania 24 instaban a los ucranianos a dejar de luchar y entregar las armas. También afirmaron falsamente que Zelenskyy había huido de Kiev, [según](https://www.atlanticcouncil.org/blogs/new-atlanticist/russian-war-report-hacked-news-program-and-deepfake-video-spread- false-zelenskyy-claims/) al investigador de Eurasia del Atlantic Council, Roman Osadchuk.

Los mensajes fueron amplificados en VKontakte, la red social comparable a Facebook, popular en Rusia y controlada por aliados del Kremlin, señaló Osadchuk.

Los investigadores dijeron que a pesar de que el deepfake no es particularmente sofisticado, debería considerarse peligroso.

"El deepfake no está muy bien hecho", afirmó Sam Gregory, del grupo de derechos humanos Witness, que se especializa en detectar medios no auténticos en situaciones de crisis.

Dijo que el hecho de que el gobierno ucraniano se adelantara al deepfake advirtiendo sobre vídeos manipulados semanas antes de que este fuera publicado, así como el propio Zelenskyy diciendo rápidamente que era falso, ayudaron a frenar su propagación en Occidente, pero es posible que una menor Las versiones de alta calidad del vídeo podrían cobrar vida propia en otras partes del mundo.

"Si nos fijamos en otros contextos a nivel mundial donde el deepfake es de mala calidad, o de una calidad suficientemente buena como para crear lugar a dudas, no es tan fácil cuestionarlo directamente", dijo Gregory.

Además, el vídeo, independientemente de su procedencia y su calidad, podría hacer que algunas personas cuestionen la veracidad de los vídeos de Zelenskyy en el futuro, dijeron los investigadores.

"El problema particular también gira en torno al llamado dividendo del mentiroso, donde es fácil afirmar que un video verdadero está falsificado y asignar a las personas la responsabilidad de demostrar que es auténtico", dijo Gregory.

Farid añadió: "Esto contamina el ecosistema de la información y ensombrece todos los contenidos, que ya se enfrentan a la compleja niebla de la guerra", afirmó. "La próxima vez que el presidente aparezca en televisión, algunas personas podrían pensar: 'Espera un momento, ¿es esto real?' "

Una portavoz de Twitter dijo que la compañía permitirá el video en los casos en que se comparta para exponerlo como falso. Pero si el vídeo se publica para engañar a la gente, será eliminado, afirmó la empresa.

Shannon Bond de NPR contribuyó a este informe.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd