Incidentes Asociados
El lunes, la hija del reverendo Martin Luther King Jr., Bernice, condenó un video generado artificialmente del líder de los derechos civiles elogiando al expresidente Donald Trump (https://www.washingtonpost.com/donald-trump/?itid=lk_inline_manual_2), mientras ambos partidos [cortejan a los votantes negros] (https://www.washingtonpost.com/politics/2024/11/04/harris-has-continued-improve-with-black-voters/?itid=lk_inline_manual_2) antes del día de las elecciones.
El video, publicado el domingo por la noche en la red social X por una cuenta pro-Trump llamada MAGA Resource, mostraba falsamente a King instando a los negros a votar por Trump, afirmando que hizo "más por la comunidad negra que cualquier otro presidente". A última hora del lunes, había obtenido más de 10 millones de visitas.
Bernice King publicó el lunes en X denunciando el video y pidiendo que se eliminara. "Es vil, falso, irresponsable y no refleja en absoluto lo que diría mi padre", dijo King. "Y no pensaste en nuestra familia".
Los usuarios de X que contribuyen a la verificación de datos en la plataforma adjuntaron una nota al video el lunes, etiquetándolo como "un deepfake", un término utilizado para imágenes, videos o audios hechos con inteligencia artificial.
El video falso de IA aparece en las últimas horas de una carrera presidencial en la que los deepfake surgieron temprano. En enero, los votantes de New Hampshire fueron el objetivo de una llamada automática con un audio deepfake de la voz del presidente Joe Biden alentando a las personas a no votar en las primarias del estado.
"Estamos en una especie de momento de 'tirar espaguetis a la pared' de la política y la IA, donde esta intersección permite a las personas probar cosas nuevas para la propaganda", dijo Rachel Tobac, directora ejecutiva de SocialProof Security, una empresa de piratería ética. "Creo que vamos a ver a la gente intentar todo lo que pueda para influir en las elecciones".
El video falso de King, quien fue asesinado en 1968, apareció originalmente en X en febrero a través de la cuenta Ramble Rants, que es parte de un grupo poco organizado llamado Dilley Meme Team que crea memes que apoyan a Trump.
Brenden Dilley respondió a la publicación de Bernice King pidiendo que se elimine el video diciendo solo: "Bienvenidos a 2024". La cuenta MAGA Resource no respondió de inmediato a una solicitud de comentarios. La cuenta Ramble Rants publicó en X que la nota de verificación de datos "tonterías" en la plataforma que etiqueta este video como deepfake "no entendió el punto y no era necesaria".
Durante las elecciones de 2024, la desinformación generada por IA se ha vuelto viral repetidamente, llamando la atención de los reguladores y observadores que buscan el efecto que la IA puede tener en el proceso democrático. Los expertos en inteligencia artificial no están seguros de cuánto impacto ha tenido este contenido en cambiar las opiniones de las personas sobre los candidatos o sus opciones en las urnas.
En marzo, la BBC desenterró docenas de imágenes falsas generadas por IA que retrataban a personas negras apoyando a Trump. El propietario de X, Elon Musk, que apoya a Trump, en julio atacó al reemplazo de Biden en la carrera, compartiendo en X un audio falso generado por IA de la vicepresidenta Kamala Harris celebrando falsamente la decisión del presidente de retirarse. El clip fue visto más de 100 millones de veces.
En agosto, Trump compartió una imagen falsa generada por IA de los fanáticos de Taylor Swift respaldando su campaña, un truco que la cantante citó en su posterior respaldo a Harris.
Más de una docena de estados de EE. UU. tienen leyes que penalizan a las personas que usan IA para hacer videos engañosos sobre políticos, lo que crea un mosaico de políticas en todo el país. El consultor que creó la falsificación profunda de la voz de Biden fue multado con $6 millones en septiembre por la Comisión Federal de Comunicaciones.
Aunque muchas empresas han lanzado herramientas para detectar falsificaciones profundas, su desempeño no es confiable, y un estudio encontró que los métodos variaban en precisión entre el 82 por ciento y solo el 25 por ciento.
Tobac dijo que la gente probablemente se dará cuenta de que un video de King instando a los votantes a emitir su voto por Trump es falso. Pero añadió que estos vídeos pueden utilizarse para explotar las emociones de las personas.
"Vivimos... en este mundo extraño en el que los deepfakes se utilizan para decir '¿pero qué pasaría si fuera real?'", añadió, "y... se utiliza eso de forma partidista".