Incidentes Asociados
Un video que circula en Facebook parece mostrar al líder laborista Sir Keir Starmer promoviendo un plan de inversión. Sin embargo, este vídeo no es auténtico y el audio parece haber sido alterado mediante inteligencia artificial (IA).
El video comienza con imágenes de lo que supuestamente es el Sr. Starmer hablando directamente a la cámara antes de mostrar un montaje de diferentes clips mientras el audio se reproduce en la parte superior. Dice que está promoviendo una “nueva plataforma que ofrece una oportunidad única para que los residentes del Reino Unido obtengan ingresos pasivos”.
Se compartió con la leyenda: “¡Una iniciativa especial del gobierno del Reino Unido para todos los ciudadanos británicos! ¡Actúe rápido antes de que se llenen los lentos!”, y el texto superpuesto dice: “¡Gane hasta £40,000 mensuales! ¡Empiece hoy con sólo £250 y gane £1000 el primer día!
Sin embargo, un portavoz de Mr Starmer confirmó a Full Fact que este video no es genuino.
No pudimos encontrar ningún informe ni del gobierno ni de fuentes confiables que describan tal plan de inversión.
Parece que el metraje es en realidad un [video deepfake] (https://www.techtarget.com/whatis/definition/deepfake) creado mediante la clonación de la voz del Sr. Starmer. El contenido deepfake se refiere al uso de inteligencia artificial para crear imágenes, audio y videos originales que pueden usarse para imitar de manera convincente a personas reales.
El deepfake parece haber utilizado un vídeo de la [dirección de Año Nuevo 2023] real del Sr. Starmer (https://twitter.com/Keir_Starmer/status/1609097027262070789?s=20), que tiene un audio diferente.
El audio falso también pronuncia repetidamente el signo de libra antes de su número correspondiente, por ejemplo diciendo "35.000 libras" en lugar de "35.000 libras". Sería un error muy improbable que un hablante nativo de inglés, como el Sr. Starmer, lo cometiera varias veces.
Mike Russell, fundador de la productora de audio Music Radio Creative y profesional de audio certificado con más con más de 25 años de experiencia, dijo a Full Fact que “el uso de 'libras' realmente lo delata”.
Sin embargo, advirtió que este tipo de audio deepfake puede ser “fácil de hacer para cualquiera” y que la clonación de voz es cada vez más “difícil de detectar”.
En el video, el área alrededor de la boca del Sr. Starmer parece estar borrosa o manchada. El Dr. Dominic Lees, coordinador de la Red de Investigación de Medios Sintéticos de la Universidad de Reading, dijo anteriormente a Full Fact que esta es una señal reveladora de que los videos no han sido sincronizados con los labios.
Refiriéndose a otro video deepfake que supuestamente muestra presentadores de la BBC promoviendo un plan de inversión, explicó cómo a la IA “le resulta muy difícil generar una apariencia natural”. en los dientes a menudo dejan esto borroso y desenfocado”.
Hemos escrito sobre otros ejemplos de clips de audio que Full Fact no ha encontrado evidencia de que sean reales, como uno [supuestamente graba al Sr. Starmer insultando a su personal] (/news/keir-starmer-audio-swearing/) y otro de Sadiq Khan parece pedir que se posponga el 'fin de semana del recuerdo'.
La aparición de material deepfake realista expone los crecientes desafíos de verificación que plantean las nuevas tecnologías y el desafío de garantizar una respuesta efectiva y proporcionada por parte de las plataformas de redes sociales a dicho contenido.
La información errónea se difunde rápidamente en línea, por lo que es especialmente importante considerar si es probable que algo sea genuino antes de compartirlo.