Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 669

Incidentes Asociados

Incidente 3929 Reportes
Deepfake Obama Introduction of Deepfakes

Loading...
Un loco video de falsificación realista de Barack Obama fue generado por una IA de sincronización de labios
digitaltrends.com · 2017

Bueno, ¡sentimos decirte que las cosas están a punto de empeorar mucho, mucho!

Al menos, eso se basa en una demostración francamente loca de inteligencia artificial realizada por científicos informáticos de la Universidad de Washington. Usando una red neuronal artificial de última generación, han desarrollado una IA que puede producir nuevas secuencias de video del expresidente Barack Obama hablando, que coinciden perfectamente con el audio grabado de él.

“Desarrollamos un algoritmo que puede generar un video creíble de Obama a partir de su voz, basado en una red neuronal recurrente que aprende cómo hacer esto mediante el análisis de horas del metraje del discurso semanal de Obama”, dijo el Dr. Supasorn Suwajanakorn, investigador del proyecto. dijo a Tendencias digitales. “A diferencia del trabajo anterior, nunca requerimos que se escanee el tema o una base de datos de voz que consiste en videos de muchas personas que dicen oraciones predeterminadas. Aprendemos esto solo de imágenes existentes. Esto tiene el potencial de escalar a cualquier persona con un mínimo esfuerzo”.

Entonces, siendo ese el caso, ¿por qué los investigadores eligieron a personas como Barack Obama para llevar a cabo la asombrosa demostración tecnológica? No, no es por razones políticas partidistas. “La técnica que usamos, el aprendizaje profundo, requiere muchos datos”, continuó Suwajanakorn. “Y este conjunto de datos es muy adecuado porque es grande: más de 20 horas, fácil de recopilar, contiene solo a Obama en alta resolución y de dominio público, que es de uso gratuito para los investigadores”.

Vale la pena señalar que los investigadores no están creando una versión CGI de Obama desde cero. En su lugar, están haciendo una versión más sofisticada de lo que los cineastas detrás de una película como Forrest Gump hicieron con imágenes de archivo: tomar videos existentes y luego editarlos para que se ajusten al nuevo diálogo. En este caso, eso significa mover la boca de Obama para que coincida con lo que dice en el audio, todo mientras se incorpora todo lo que la IA ha aprendido sobre sus movimientos únicos de la boca para que parezca auténtico.

Estamos intrigados, aunque desconcertados, por ver qué sucede cuando alguien mezcla la investigación de la Universidad de Washington con este proyecto anterior, utilizando una red neuronal para imitar la voz de (entre otros) el presidente Obama.

¿Ves lo que decíamos sobre el futuro de las noticias falsas?

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd