Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 1657

Incidentes Asociados

Incidente 2025 Reportes
Korean Politician Employed Deepfake as Campaign Representative

Loading...
En Corea del Sur, se están utilizando falsificaciones profundas de políticos de IA para ganarse el corazón de la gente.
screenshot-media.com · 2022

Como fiscal estrella en Corea del Sur, Yoon Suk-yeol, el principal candidato conservador en las elecciones presidenciales del país, ayudó a encarcelar a dos expresidentes, así como al director de Samsung y al expresidente del Tribunal Supremo de Corea del Sur por cargos de corrupción. Hoy, mientras los ciudadanos emiten sus votos, Yoon espera convertirse en presidente apelando a los surcoreanos que están profundamente insatisfechos con el presidente saliente, Moon Jae-in.

Y Yoon ha recurrido a un arma secreta para aumentar su popularidad entre el público más joven: la inteligencia artificial, más precisamente, las falsificaciones profundas. El llamado 'AI Yoon' reemplazó al 'trato real' en videoclips cortos. ¿Por qué? Porque AI Yoon se ve y se parece mucho al político de la vida real en el que se basa, solo que sus respuestas son más ingeniosas y simpáticas.

“Un exfiscal de lengua afilada, el Sr. Yoon, de 61 años, es nuevo en la política y quería una forma eficiente de llegar al electorado. Necesitaba perseguir a los votantes jóvenes y buscaba una imagen pública más suave, y solo tenía aproximadamente tres semanas para hacer campaña oficialmente por ley”, explicó el Wall Street Journal (WSJ) sobre la lógica detrás de AI Yoon.

“Queremos que los votantes vean el lado humano de Yoon, no la imagen severa que proyecta en la televisión”, dijo Baik Kyeong-hoon, jefe del equipo AI Yoon de la campaña, a la publicación. Se han compartido más de 80 clips del deepfake de Yoon en las plataformas de redes sociales, atrayendo más de 70 000 comentarios desde su debut en enero de 2022. Los videos suelen durar 30 segundos o menos, se publican a diario y, a menudo, muestran a AI Yoon respondiendo las preguntas de los votantes. seleccionados de antemano por el personal de campaña del candidato. Una vez que se selecciona una pregunta para el día, su respuesta es redactada y entregada por el avatar digital.

AI Yoon aborda una gran variedad de temas, incluidos los lanzamientos de misiles de Corea del Norte y las noticias falsas, la banda de chicas de K-pop Blackpink, según el WSJ, una de sus canciones es el "karaoke de AI Yoon", y su lista de compras de ese día. (huevos, cebollas verdes, anchoas y frijoles).

A su vez, “Yoon está aprendiendo de sus mensajes AI Yoon”, dijo Lee Jun-seok, jefe del Partido del Poder Popular del candidato, a quien se le ocurrió la idea de la versión falsa. Tras el éxito de su yo digital, Yoon ha adaptado lo que menciona en la campaña y cómo lo dice. Teniendo en cuenta el hecho de que se ha demostrado que las caras falsas generadas por IA son más confiables que las reales, no sorprende que AI Yoon haya jugado un papel crucial en la campaña presidencial del candidato.

En un intento por frenar el aumento de la popularidad del deepfake, los funcionarios del Partido Demócrata inicialmente criticaron a AI Yoon y calificaron la tecnología de fraudulenta y una amenaza para la democracia. Sin embargo, poco después, también surgió una versión de IA de Lee Jae-myung, el rival progresista de Yoon. Su partido justificó la medida diciendo que era diferente porque el avatar de Lee se hizo a partir de imágenes reales de sus comentarios reales, como recitar sus promesas y consignas electorales. En contraste, los comentarios generados por computadora de Yoon “ocultaron deliberadamente los defectos del Sr. Yoon”, dijo un funcionario del Partido Demócrata.

Actualmente, la carrera presidencial de Corea del Sur es un enfrentamiento apretado entre Lee y Yoon. Las personas de entre 20 y 30 años ahora se han convertido en votantes indecisos, expresando su descontento con el estado de la economía y el aumento de los precios inmobiliarios. El presidente saliente, Moon, y su Partido Demócrata también se han visto sacudidos por una serie de escándalos que expusieron lapsos éticos y fallas en las políticas. Como resultado, más de la mitad del electorado quiere un cambio de la actual administración de Moon, según una encuesta de Gallup Korea.

Eso le ha dado a Yoon, que se ha enfocado especialmente en hombres jóvenes y ha dado una puñalada al feminismo, una oportunidad con un grupo demográfico más joven que históricamente ha evitado a los conservadores. Lee Seong-yoon, un estudiante universitario de 23 años, primero pensó que AI Yoon era real después de ver un video en línea. Ver a Yoon hablar en los debates o en la campaña electoral puede ser aburrido, explicó al WSJ. Pero ahora ve videos de AI Yoon en su tiempo libre y encuentra que la versión digital del candidato es más identificable, en parte porque “habla como alguien de su edad”. Dijo que está votando por el candidato.

“No estoy tan preocupado por la tecnología deepfake porque cualquier tecnología puede usarse para bien o para mal”, dijo además a la publicación. La tecnología detrás de AI Yoon es proporcionada por DeepBrain AI con sede en Seúl, que sintetiza voz y video para producir un avatar de aspecto humano que puede mantener una conversación en tiempo real. “Es un poco espeluznante, pero la mejor manera de explicarlo es que clonamos a la persona”, dijo al WSJ John Son, quien dirige el desarrollo de negocios de Asia-Pacífico en DeepBrain AI.

Pero lo que realmente debe ser aclamado aquí es el trabajo que hizo el equipo de campaña de Yoon. Cuando se lanzó por primera vez la versión digital del candidato, se derrumbó por completo. El deepfake era demasiado serio e inaccesible ya que respondía preguntas de política, al igual que su contraparte de la vida real. Luego, los miembros del personal pensaron en cambiar el tipo de preguntas que respondería AI Yoon, que fue cuando comenzaron a aparecer preguntas de los votantes junto con algunas respuestas humorísticas del deepfake.

"¿Cuál es tu MBTI?" preguntó un votante, el acrónimo de la prueba de personalidad en el lugar de trabajo. “Mi tipo de personalidad es ENFJ, el mismo que el de Barack Obama”, respondió AI Yoon, refiriéndose a un tipo de personalidad común entre los líderes extrovertidos y cálidos. "¡Que tengas un día enérgico, Barack Obama!" añadió.

No importa la pregunta, los guionistas intentan hacer que cada respuesta sea divertida y comprensible incluso para un estudiante de secundaria, dijo Baik, jefe del equipo de AI Yoon, al WSJ. Si Yoon gana las elecciones de hoy, la carrera de AI Yoon también podría extenderse, dijo Lee Jun-seok, líder del Partido del Poder Popular. Él imagina uno de los quioscos de DeepBrain AI saludando a los visitantes en la Casa Azul presidencial.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd