Incidentes Asociados
Un nuevo anuncio de ataque de los republicanos del Senado utiliza las palabras reales del senador Chuck Schumer sobre el cierre del gobierno, pero en una deepfake con IA del líder de la minoría demócrata del Senado.
El video de 30 segundos (https://x.com/NRSC/status/1979187237720924195), publicado en X y YouTube por el Comité Senatorial Nacional Republicano el viernes, alertó a muchos observadores, quienes advirtieron que traspasaba una nueva frontera en la política y podría desatar una avalancha de anuncios de ataque deepfake generados por IA.
Subtitulado en X "Semana 3 del cierre de Schumer: 'Cada día es mejor para nosotros'", el video muestra una versión de Schumer generada por IA repitiendo esas palabras y sonriendo. El video concluye con Schumer sonriendo mientras un narrador dice: "El cierre de Schumer está empeorando las cosas en Estados Unidos y a los demócratas les encanta".
"Cada día nos va mejor", fue parte de una cita que Schumer dio al sitio web político Punchbowl News en un artículo del 9 de octubre sobre el cierre. Continuó: "Es porque habíamos pensado en esto con mucha antelación y sabíamos que la atención médica sería el tema central el 30 de septiembre y nos preparamos para ello... Su teoría era: amenazarnos, engañarnos, y nos rendiríamos en un par de días".
Sin embargo, el artículo original solo incluía el texto de la declaración de Schumer, sin video ni audio.
Un comunicado de prensa del NRSC (https://www.nrsc.org/press-releases/video-nrsc-uses-ai-to-show-voters-exactly-what-schumer-thinks-of-his-shutdown-2025-10-17/) que anuncia el anuncio lo describe como una "visualización" del comentario de Schumer y afirma que fue "creado en parte mediante software de inteligencia artificial e incluye una advertencia sobre la IA".
La grabación falsa de Schumer incluye una pequeña marca de agua transparente del logotipo del NRSC y las palabras "GENERATED AI" (GENERADO POR IA) en la esquina inferior derecha. En YouTube, el video (https://www.youtube.com/watch?v=1-WZIStqImo) incluye la etiqueta adicional "Contenido alterado o sintético" (https://www.npr.org/2023/11/14/1212986395/youtube-will-label-ai-generated-videos-that-look-real), que indica: "El sonido o las imágenes fueron editados significativamente o generados digitalmente".
"Estas son las propias palabras de Chuck Schumer", declaró la directora de comunicaciones del NRSC, Joanna Rodríguez, en un correo electrónico a NPR. "Sabemos que Schumer desearía que la gente no supiera que dijo esto, pero lo hizo, y este video es una forma de que los votantes vean y escuchen lo orgulloso que está de su cierre".
La oficina de Schumer no respondió a una solicitud de comentarios.
Aunque la cita fue algo que Schumer dijo, el uso de IA para inventar videos falsos es excesivo, afirmó Hany Farid, profesor de la Universidad de California en Berkeley, quien estudia la manipulación de medios.
"Si hubieran querido usar la cita, podrían haber mostrado una imagen de Schumer y superpuesto la cita, como se suele hacer. No se puede argumentar razonablemente que crear un deepfake del senador Schumer sea lo mismo", afirmó.
Además, Farid afirmó que la advertencia en la esquina inferior derecha del video "no es una revelación particularmente clara ni obvia, sobre todo cuando la mayoría de los usuarios están viendo sus publicaciones en redes sociales con aires de fatalismo".
El video del NRSC también fue criticado por periodistas y otros comentaristas en redes sociales, incluyendo reporteros de publicaciones de derecha.
"La parte de Schumer es un video generado por IA, que se revela en la esquina inferior derecha, pero estamos a las puertas de un nuevo mundo aterrador", escribió Jon Levine, reportero político del Washington Free Beacon, en X (https://x.com/LevineJonathan/status/1979227930405339355).
"El NRSC ha recurrido cada vez más a la IA para sus anuncios, pero esta es la primera vez que los veo llegar al extremo de usarla para un video falso de un oponente. Es un terreno resbaladizo, incluso con la pequeña revelación de la IA en la esquina", publicó Ramsey Touchberry, reportero del Congreso del Washington Examiner en X (https://x.com/ramsberry1/status/1979218136390889730).
En medio de las críticas, Rodríguez, del NRSC, escribió en su propia cuenta X: "La IA ya está aquí y no se va a ninguna parte. Adaptarse y ganar o aferrarse a la perla y perder".
No es la primera vez que los republicanos usan la IA para hacerse pasar por Schumer y otros demócratas. En vísperas del cierre del gobierno, el presidente Trump publicó en Truth Social un video aparentemente generado por IA, plagado de blasfemias, que inventó a Schumer diciendo "ya a nadie le gustan los demócratas". El líder de la minoría de la Cámara de Representantes, Hakeem Jeffries, también aparece en el video con un sombrero y bigote caricaturescos.
Pero a diferencia del video de Schumer publicado por el NRSC, los ejemplos anteriores eran fáciles de identificar como falsos.
Farid advirtió que la creciente prevalencia de falsificaciones de IA en política podría tener un efecto corrosivo.
"Si bien no creo que nuestros líderes deban publicar deepfakes engañosos, también corren el riesgo de que, al publicar contenido real, el público tenga buenas razones para cuestionar su autenticidad", afirmó.