Incidentes Asociados
Los clips "deepfake" de Keir Starmer publicados durante la conferencia laborista han provocado advertencias sobre la amenaza a la democracia que supone la inteligencia artificial (IA).
Un clip de audio generado por IA del líder laborista que parece reprender a un miembro del personal ya ha sido visto al menos 1,4 millones de veces en línea. Pero el incidente no ocurrió y el audio no es real. Otro clip falso sugería que Starmer estaba criticando a Liverpool, donde se celebra la conferencia anual del partido.
Los deepfakes son videos, imágenes y audio que han sido manipulados digitalmente para que parezca que alguien está diciendo o haciendo algo que no ha hecho. La tecnología se ha vuelto más sofisticada con el rápido desarrollo de la IA, lo que a veces hace difícil saber dónde está.
La científica informática Dame Wendy Hall, miembro del Consejo de IA del gobierno, dijo a Sky News: "La tecnología para manipular el vídeo y el audio existe desde hace mucho tiempo. El punto es que ahora es fácil de usar, ha madurado lo suficiente como para Se puede descargar desde varios sitios web".
El vídeo manipulado se publicó en Twitter el domingo cuando el Partido Laborista comenzaba su conferencia anual, en una señal de la amenaza que enfrenta la política por parte de la IA. Se produce después de unas elecciones recientes en Eslovaquia, donde surgió una grabación de audio falsa de Michal Simecka, líder del Partido Progresista de Eslovaquia, que parecía discutir el fraude electoral con un destacado periodista. La conversación nunca se produjo pero el audio se escuchó ampliamente en línea.
Los activistas sindicales recibirán capacitación para detectar deepfakes y otras amenazas potenciales a medida que el partido mejore sus habilidades de campaña digital antes de las elecciones. Rishi Sunak organizará una cumbre mundial el próximo mes sobre IA en Bletchley Park, el hogar de los descifradores de códigos británicos durante la Segunda Guerra Mundial.
Una serie de conservadores de alto rango abandonaron las líneas partidistas para advertir a la gente que no publicara ni amplificara las imágenes. El Ministro de Seguridad Tom Tugendhat expresó alarma por los clips y dijo: "Los deepfakes amenazan nuestra libertad. Por eso el Grupo de Trabajo para la Defensa de la Democracia y el trabajo que el primer ministro está haciendo con respecto a la IA son fundamentales para protegernos a todos".
El ex ministro del Gabinete, Simon Clarke, dijo a los usuarios de Twitter que "lo ignoren". Y añadió: "Es un recordatorio de por qué la próxima cumbre de AI organizada por el Primer Ministro es tan importante. Desde las elecciones eslovacas de hace unos días hasta el incidente de hoy, esta es una nueva amenaza a la democracia".
Otro importante conservador, Matt Warman, dijo: "Los últimos 30 años de vida pública han visto un debilitamiento catastrófico de la fe en las instituciones, por buenas y malas razones. Pero el señor [Keir Starmer] de hoy (https://www.mirror.co.uk) /all-about/keir-starmer) deepfake es un nuevo punto bajo, potenciado por la IA y las redes sociales. La democracia está bajo una amenaza real: la tecnología para verificar el contenido es esencial".