Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 1656

Incidentes Asociados

Incidente 2025 Reportes
Korean Politician Employed Deepfake as Campaign Representative

Loading...
¿Es Corea del Sur el primer candidato oficial de deepfake del mundo?
scmp.com · 2022

En una oficina de campaña abarrotada en Seúl, empleados jóvenes y modernos están utilizando tecnología deepfake para tratar de lograr lo casi imposible: hacer que un candidato presidencial de Corea del Sur de mediana edad sea genial.

Armado con horas de imágenes especialmente grabadas del candidato opositor del Partido del Poder Popular, Yoon Suk-yeol, el equipo ha creado un avatar digital del principal candidato y ha soltado a "AI Yoon" en la campaña electoral antes de las elecciones del 9 de marzo.

Desde un video falso de Barack Obama insultando a Donald Trump hasta el fallido candidato a alcalde de Nueva York, Andrew Yang, haciendo campaña en el metaverso, la tecnología de inteligencia artificial se ha utilizado en elecciones antes.

Pero los creadores de AI Yoon creen que es el primer candidato oficial de deepfake del mundo, un concepto que está ganando terreno en Corea del Sur, que tiene las velocidades promedio de Internet más rápidas del mundo.

Con cabello negro bien peinado y un traje elegante, el avatar se ve casi idéntico al verdadero candidato de Corea del Sur, pero usa un lenguaje salado y bromas listas para memes en un intento por atraer a los votantes más jóvenes que obtienen sus noticias en línea.

Ha sido un gran éxito. AI Yoon ha atraído millones de visitas desde que hizo su debut el 1 de enero.

Decenas de miles de personas han hecho preguntas, pero no es la tarifa habitual relacionada con la política.

“El presidente Moon Jae-in y (el candidato presidencial rival) Lee Jae-myung se están ahogando. ¿A quién salvas? un usuario le pregunta a AI Yoon.

“Les deseo buena suerte a ambos”, responde el avatar.

A primera vista, AI Yoon podría pasar por un candidato real, una demostración adecuada de cuán lejos han llegado los videos generados artificialmente, conocidos como falsificaciones profundas, en los últimos años.

El Yoon real grabó más de 3000 oraciones, 20 horas de audio y video, para proporcionar suficientes datos para que una empresa local de tecnología deepfake creara el avatar.

“Las palabras que suele pronunciar Yoon se reflejan mejor en AI Yoon”, dijo Baik Kyeong-hoon, director del equipo de AI Yoon.

Lo que el avatar realmente dice está escrito por su equipo de campaña, no por el propio candidato.

“Tratamos de encontrar respuestas humorísticas y satíricas”, dijo Baik.

El enfoque ha valido la pena. Los pronunciamientos de AI Yoon han aparecido en los titulares de los medios de Corea del Sur, y siete millones de personas han visitado el sitio web “Wiki Yoon” para cuestionar al avatar.

“Si solo hubiéramos producido declaraciones políticamente correctas, no tendríamos esta reacción”, dijo Baik.

“El establecimiento político ha sido demasiado lento frente a una sociedad que cambia rápidamente”, agregó.

Al responder a las preguntas planteadas por los usuarios, AI Yoon se refiere burlonamente al presidente Moon y su rival Lee como "Moon Ding Dong" y "Lee Ding Dong".

"Quiero hacerle esta pregunta a Moon Ding Dong: ¿quién es nuestro verdadero enemigo?" AI Yoon dice, en un golpe apenas velado a lo que sus críticos dicen que es el enfoque más conciliador del presidente hacia Pyongyang.

Corea del Norte y Corea del Sur siguen técnicamente en guerra y Moon se ha reunido con el líder de Pyongyang, Kim Jong-un, cuatro veces desde que asumió el cargo, un enfoque que el candidato Yoon rechaza por considerarlo demasiado blando.

El político avatar también ha usado el humor para tratar de desviar la atención de los escándalos pasados de Yoon, por ejemplo, afirma que recibió obsequios de frutas inapropiados de una empresa de construcción cuando era fiscal principal.

“No estoy en deuda con los caquis y los melones. Solo estoy en deuda con la gente”, dijo AI Yoon, aunque su campaña luego se vio obligada a reconocer que había aceptado algunos obsequios.

El tipo de guión utilizado por la campaña para AI Yoon se basa en el lenguaje utilizado en el mundo de los juegos en línea, dijo Kim Myuhng-joo, profesora de seguridad de la información en la Universidad de Mujeres de Seúl, a los medios locales.

“AI Yoon lee los guiones compilados por sus creadores, quienes no se andan con rodeos”, dijo Kim.

Ko Sam-seog, miembro del personal del principal oponente de Yoon, Lee, acusa al cibercandidato de "degradar el decoro político".

Pero el sarcasmo está funcionando: aunque las encuestas para las elecciones del 9 de marzo siguen siendo igualadas, Yoon se ha adelantado a su rival Lee Jae-myung con votantes veinteañeros.

Baik, experto en tecnología, y los otros dos miembros de su equipo, todos de entre 20 y 30 años, son algunos de los empleados más jóvenes en la extensa campaña de Yoon.

Vienen con las respuestas de AI Yoon en sesiones rápidas de lluvia de ideas, que pueden tomar tan solo 30 minutos, en contraste con la retórica cuidadosamente perfeccionada que generalmente se encuentra en los debates de políticas públicas.

El monitor electoral de Corea del Sur permite que los candidatos de IA hagan campaña con la condición de que se identifique claramente como tecnología ultrafalsa y no difunda información errónea.

La tecnología ha sido señalada más a menudo como dañina: el video falso profundo de Obama de 2018 fue producido por el cineasta ganador del Oscar Jordan Peele para advertir a los espectadores sobre el material confiable que encuentran en línea.

Pero Baik cree que la IA es el futuro de las campañas electorales.

“Es muy fácil crear grandes cantidades de contenido con tecnología deepfake”, dijo.

“Es inevitable que esto se use cada vez más”.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd