Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 4727

Incidentes Asociados

Incidente 93012 Reportes
Alleged Deepfake Video Falsely Depicts Hollywood Stars in AI-Manipulated Protest Against Kanye West

Scarlett Johansson lucha contra el “mal uso de la inteligencia artificial” tras un video deepfake de famosos condenando el discurso de odio de Ye
billboard.com · 2025

El martes, la organización sionista israelí Im Tirtzu publicó un controvertido video deepfake que mostraba a una serie de artistas judíos generados por inteligencia artificial, entre ellos Drake, Lenny Kravitz, Adam Levine de Maroon 5, Simon & Garfunkel, Jack Black, Jake Gyllenhaal, Mila Kunis, Adam Sandler y otros, con camisetas que mostraban una mano con una estrella judía haciendo un gesto con el dedo medio con la palabra “Kanye” debajo.

El breve video que presenta el mensaje “ya es suficiente” y “Únete a la lucha contra el antisemitismo” parecía ser una reacción a la reciente ola de cuatro días de publicaciones ofensivas del rapero caído en desgracia Ye en X en la que usó repetidamente insultos antisemitas, homofóbicos, sexistas y capacitistas mientras declaraba una vez más “soy nazi” y “amo a Hitler”.

La camiseta también parecía una réplica a una camiseta antisemita que Ye vendió en su sitio web (promocionada en un extraño anuncio que se emitió en algunos mercados durante el Super Bowl LIX del domingo) que presentaba una esvástica nazi y el código “HH-01”, código para “Heil Hitler”. El sitio web de Yeezy fue eliminado por Shopify el martes tras las reacciones negativas sobre la camiseta que, según la empresa, violaba sus términos.

El video deepfake, con una versión instrumental electrónica de la tradicional canción folclórica judía de celebración “Hava Nagila”, también presenta imágenes manipuladas de Scarlett Johansson, Steven Spielberg, Woody Allen, Mark Zuckerberg, Sacha Baron Cohen, Schwimmer, Lisa Kudrow y otros que posan con la camiseta. Johansson fue la primera estrella en responder al video de respuesta no aprobado, instando a los legisladores estadounidenses a poner límites a la IA, denunciando el proyecto a People en una declaración sobre el "mal uso de la IA, sin importar cuál sea su mensaje".

Agregó: "Mis familiares y amigos me han informado de que un video generado por IA con mi imagen, en respuesta a una opinión antisemita, ha estado circulando en línea y ganando terreno. Soy una mujer judía que no tolera el antisemitismo ni el discurso de odio de ningún tipo. Pero también creo firmemente que el potencial de discurso de odio multiplicado por la IA es una amenaza mucho mayor que cualquier persona que asuma la responsabilidad por ello. Debemos denunciar el mal uso de la IA, sin importar su mensaje, o corremos el riesgo de perder el control de la realidad”.

Johansson, quien amenazó con emprender acciones legales en noviembre de 2023 cuando una empresa usó su imagen de IA en un anuncio sin permiso y nuevamente se sintió perturbada cuando una voz que sonaba como la suya se usó como la voz oficial de ChatGPT de OpenA.I., no nombró a West en su declaración, que concluyó: “Insto al gobierno de los EE. UU. a que haga de la aprobación de una legislación que limite el uso de la IA una prioridad máxima; es un tema bipartidista que afecta enormemente al futuro inmediato de la humanidad en general”.

Antes de que saliera a la luz el vídeo de AI, la Liga Antidifamación se quejó de la camiseta con la esvástica de Ye, señalando que era una prueba más del antisemitismo del rapero y que “la esvástica es el símbolo adoptado por Hitler como el principal emblema de los nazis. Galvanizó a sus seguidores en el siglo XX y sigue amenazando e infundiendo miedo en aquellos que son objeto del antisemitismo y la supremacía blanca… No hay excusa para este tipo de comportamiento. Peor aún, Kanye promocionó su sitio web durante el Super Bowl, ampliándolo más allá de su ya enorme audiencia en las redes sociales”.

Antes de que Ye (antes conocido como Kanye West) aparentemente eliminara su cuenta X el lunes, la ex estrella de Friends David Schwimmer le imploró al dueño de X, Elon Musk, que prohibiera al rapero que escupe odio en la plataforma. Además, Charlie Puth le rogó a Ye que dejara de promover mensajes “increíblemente peligrosos” (https://www.billboard.com/music/pop/charlie-puth-message-ye-antisemitic-twitter-swastika-shirt-beg-you-stop-1235898363/) y el cantante/DJ Matthew Koma ofreció su propia respuesta directa a la promoción de la ideología de odio por parte de Ye el martes, publicando una imagen de una camiseta que dice “F–k Ye” (que se joda Ye) que está vendiendo. “Oye, yo también puedo hacer una camiseta –enlace en la biografía–, todas las ganancias se destinarán a la organización benéfica Blue Card Holocaust Survivor”, escribió Koma.

Además, el Consejo Israelí-Americano (IAC) anunció el miércoles (12 de febrero) una campaña titulada “El odio ha pasado de moda” en la que se presenta una camiseta con la estrella de David para “fomentar el orgullo, la fuerza y la unidad judía”. El grupo dijo que la camiseta era una respuesta a la esvástica que West vende en sus productos. “Cuando y dondequiera que el antisemitismo levante su fea cabeza, representa una amenaza no solo para los judíos, sino para toda nuestra sociedad y sus valores más básicos”, dijo el director ejecutivo del IAC, Elan Carr. “Nosotros, los judíos estadounidenses y los israelíes-estadounidenses, estamos en primera línea contra el odio más antiguo del mundo. En respuesta al despreciable intento de Kanye West de sacar provecho de su odio, nuestra campaña creativa refleja su moda retorcida, pero en cambio promueve un mensaje positivo de orgullo, filosemitismo y valores estadounidenses”.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • a9df9cf