Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 2691

Incidentes Asociados

Incidente 4794 Reportes
Instagram Video Featured Deepfake Audio of US President Making Transphobic Remarks

Loading...
Fact Check-Video no muestra a Joe Biden haciendo comentarios transfóbicos
reuters.com · 2023

Un clip que aparentemente muestra al presidente de los Estados Unidos, Joe Biden, haciendo comentarios transfóbicos se ha compartido en las redes sociales como si fuera auténtico. Sin embargo, no hay evidencia de que haya hecho tales declaraciones y los expertos dijeron a Reuters que el video parece ser una falsificación profunda.

Supuestamente se puede escuchar a Biden diciendo frases como: "Nunca serás una mujer de verdad". También parece hacer referencias al suicidio en el clip, que se ha compartido en Facebook (aquí) e Instagram ([aquí](https: //www.instagram.com/reel/CoTeIpfP94B/)).

No hay evidencia de que Biden haya hecho alguna vez estos comentarios. Una búsqueda a través de Google (bit.ly/3HLrfcJ) y las transcripciones de la Casa Blanca ([aquí](https://www.whitehouse.gov/briefing-room/speeches- observaciones/)) no proporcionó resultados.

Una búsqueda en TinEye de uno de los marcos lleva al anuncio de Biden el 25 de enero de 2023 de que EE. UU. enviaría 31 tanques Abrams a Ucrania ([aquí](https://www.reuters.com/world/us/reversal- us-agrees-send-31-abrams-tanks-ukraine-2023-01-25/)). Las imágenes de este discurso (bit.ly/3XbOjH5) muestran a Biden con ropa similar y las mismas banderas detrás de él que en el video manipulado. Ni este clip ni la transcripción oficial de este discurso ([aquí](https://www.whitehouse.gov/briefing-room/speeches-remarks/2023/01/25/remarks-by-president-biden-on-continued -support-for-ukraine/)) incluya cualquiera de los comentarios hechos en el video que se comparte en línea.

Un artículo de un sitio web conservador (bit.ly/3HGqRvS) identifica el video como un deepfake y al usuario de Twitter @MachiavelliMemz como la fuente (la cuenta ha sido suspendida desde entonces) ( twitter.com/MachiavelliMemz) (bit.ly/3jIT4u3).

Reuters ha explicado previamente (aquí) ([aquí](https://www.reuters.com/technology/deepfake-anyone-ai -synthetic-media-tech-enters-pelilous-phase-2021-12-13/)) ([aquí](https://www.reuters.com/technology/google-facebook-twitter-will-have-tackle- deepfakes-or-risk-eu-fines-sources-2022-06-13/)) que los deepfakes se crean tomando un video fuente, identificando patrones de movimiento dentro de la cara de un individuo y usando inteligencia artificial para recrear esos movimientos. Han disparado la alarma porque ahora se puede crear un video de manera efectiva de cualquier persona que diga algo.

El Dr. Dominic Lees, profesor asociado de cine en la Universidad de Reading (aquí), ha realizado una investigación en falsificaciones profundas. Después de ver el video que circulaba en las redes sociales, le dijo a Reuters por correo electrónico que creía que había sido manipulado mediante el uso de dos algoritmos de falsificación profunda de código abierto.

“El primero es un proceso de clonación de voz, que toma una muestra de la voz de Joe Biden como muestra de entrenamiento. El algoritmo entrenado puede traducir texto a voz, aquí, el texto transfóbico falso”, dijo. El segundo proceso sería un programa “para alterar los movimientos de la boca de Biden desde el video original hasta el punto en que se crea una coincidencia con el audio falso”.

Dr. Siwei Lyu, profesor de SUNY Empire Innovation en el Departamento de Informática e Ingeniería de la Universidad Estatal de Nueva York en Buffalo ([aquí](https://www.buffalo.edu/news/experts/siwei-lyu-faculty -expert-deepfakes-computer-vision.html)), probó el video que circula en línea con varios algoritmos de detección de falsificaciones profundas desarrollados con el apoyo del Programa Forense Semántico de la Agencia de Proyectos de Investigación Avanzada de Defensa de EE. UU. (DARPA). Concluyó que probablemente fue manipulado mediante el uso de algoritmos automáticos de sincronización de labios.

“Inspeccionando visualmente el video, una señal de manipulación es que cuando la boca está completamente abierta, no se ven los dientes ni la lengua y el espacio abierto se llena de un color oscuro”, dijo por correo electrónico, y agregó que esto fue un efecto de la algoritmos en cuestión.

Según Lyu, se utilizaron imágenes del discurso de Biden del 25 de enero para crear el deepfake. “Los gestos con las manos utilizados por Biden en ambos videos son similares, algo que todavía no se puede reproducir de manera realista con los algoritmos falsos profundos actuales”.

Los comentarios de Biden en el clip manipulado contradicen el apoyo de su administración a la comunidad LGBTQ. Uno de sus primeros movimientos como presidente fue firmar una orden ejecutiva que revocaba una política que prohibía a las personas transgénero servir en el ejército ([aquí](https://www.whitehouse.gov/briefing-room/presidential-actions/2021/ 25/01/orden-ejecutiva-sobre-habilitar-a-todos-los-estadounidenses-calificados-para-servir-a-su-país-en-uniforme/)). También hizo declaraciones sobre el Día del Recuerdo Transgénero en 2021 y 2022 ([aquí](https://www.whitehouse.gov/briefing-room/statements-releases/2021/11/20/statement-by-president-biden -on-transgender-day-of-remembrance/)) ([aquí](https://www.whitehouse.gov/briefing-room/statements-releases/2022/11/20/statement-by-president-joe- biden-on-transgender-day-of-remembrance/)).

La Casa Blanca no respondió de inmediato a una solicitud de comentarios.

Veredicto

Sin evidencia. No hay evidencia de que el presidente de los Estados Unidos, Joe Biden, haya hecho una serie de comentarios transfóbicos. Los expertos dijeron a Reuters que un video que circula en las redes sociales ha sido manipulado.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd