Incidentes Asociados
En octubre, el diputado conservador George Freeman se vio bombardeado por mensajes de amigos y colegas que lo acusaban de traición. "Me insultaban, diciendo: 'Nunca pensé que nos harías esto'. No entendía qué había pasado", declaró.
"Entonces vi el vídeo. Ahí estaba yo en mi despacho del Parlamento, con mi camiseta de tirantes, agitando los brazos, hablando como siempre, y diciendo que después de 20 años estaba harto del Partido Conservador, que era un fracaso, una organización en decadencia, y que me unía al Partido Reformista".
El vídeo publicado en Facebook y X era un deepfake que utilizaba inteligencia artificial para hacer que pareciera que el exministro de tecnología anunciaba su deserción al partido de Nigel Farage. "Se estaba haciendo viral", declaró el diputado por Mid Norfolk.
'Trabajas muy duro para forjarte una reputación y en 15 segundos alguien puede destruir tu carrera'
George Freeman, diputado
"Una vez me asaltaron tres adolescentes en un paso subterráneo de White City y sentí algo parecido. En política, te esfuerzas mucho para intentar forjarte una reputación, para decir lo que piensas y elegir tus palabras con cuidado. Y en 15 segundos, alguien a quien no conoces, desde la comodidad de su anonimato, puede destruir tu carrera sin posibilidad de retorno".
Freeman contactó con Meta, propietaria de Facebook. "Dijeron: 'No infringe ninguna de nuestras normas'. Entiendo que no es acoso sexual, ni terrorismo violento ni extremismo, pero es bastante grave cuando un representante electo es tergiversado por completo de forma deliberada y maliciosa".
También denunció el vídeo falso a la policía y concluyó que "no hay ninguna ley que prohíba usar la identidad de alguien de esta manera".
Ahora Freeman está hablando con Lindsay Hoyle, presidenta de la Cámara de los Comunes, y otros parlamentarios de todos los partidos sobre cómo prohibir las falsificaciones políticas. "Este no es un punto de vista conservador. Todos tenemos un interés común en proteger la integridad del proceso democrático", afirmó. Es fundamental que en política exista una larga y orgullosa tradición de sátira. Lo agradezco, pero esto es diferente.
"Solo hay que imaginar un video publicado el día antes de unas elecciones tergiversando a alguien y que los votantes digan: 'No voy a votar por ellos, es una vergüenza', y entonces la democracia queda completamente corrompida."
En todo el mundo, proliferan los deepfakes políticos. El mes pasado, una noticia falsa que afirmaba un golpe de Estado en Francia se hizo viral. Fue tan convincente que Emmanuel Macron fue contactado por un jefe de estado africano para preguntarle qué había sucedido con su gobierno.
En octubre, pocos días antes de las elecciones presidenciales irlandesas, apareció en línea un video que supuestamente mostraba a una de las candidatas, Catherine Connolly, anunciando su retirada de la contienda. Connolly ganó, pero describió el deepfake como un "vergonzoso intento de engañar a los votantes y socavar nuestra democracia".
La primera vuelta de las elecciones presidenciales rumanas, celebrada en noviembre La ley 2024 fue anulada tras informes creíbles sobre la interferencia rusa relacionada con vídeos deepfake. Moldavia se vio inundada de deepfakes antes de las cruciales elecciones del año pasado, que se percibieron como una disyuntiva entre el este y el oeste.
El primer ministro, Keir Starmer, el alcalde de Londres, Sadiq Khan, y el secretario de Salud, Wes Streeting, han sido blanco de ataques.
Existe una dimensión adicional para las mujeres políticas cuyas imágenes son manipuladas con IA para crear deepfake. En el período previo a las elecciones generales del Reino Unido del año pasado, imágenes alteradas digitalmente de más de 30 candidatas, entre ellas Angela Rayner, exvicepresidenta laborista, y Priti Patel, secretaria de Asuntos Exteriores en la sombra, aparecieron en un sitio web sexualmente explícito.
Jess Asato, diputada laborista por Lowestoft, declaró: «Hay que debatir sobre dónde trazamos el límite en materia de libertad de expresión, pero las representaciones sexualizadas de políticos son absolutamente erróneas». Me preocupa la rapidez y la facilidad con la que se produce algo completamente falso.
'Es claramente una vía para la interferencia extranjera, pero podría ser simplemente alguien sentado en su garaje haciendo deepfakes de alguien que no le gusta'.
Vijay Rangarajan, director ejecutivo de la Comisión Electoral
La Comisión Electoral, el organismo independiente que supervisa las elecciones, está tan preocupada por la posible amenaza que está creando una nueva unidad antes de las cruciales elecciones locales, escocesas y galesas de mayo para identificar y eliminar deepfakes políticos.
El sistema, que se está desarrollando en colaboración con el Ministerio del Interior, escaneará y monitoreará redes sociales como Facebook, X, TikTok e Instagram. Podrá detectar contenido falso generado por IA tanto en galés como en inglés.
Cuando se detecta un deepfake, la comisión informará inmediatamente a las plataformas e intentará que se elimine la publicación. También se advertirá a los candidatos y partidos. Los políticos podrán contactar con la comisión para obtener ayuda si encuentran un deepfake circulando en línea.
Vijay Rangarajan, director ejecutivo de la comisión, afirmó que la "barrera de entrada" para la creación de videos se había reducido drásticamente gracias a la amplia disponibilidad de tecnología basada en IA. "Es claramente una vía para la interferencia extranjera, pero podría tratarse simplemente de alguien sentado en su garaje haciendo deepfakes de alguien que no le gusta", declaró. "La ley debe adaptarse a todas estas amenazas emergentes".
Una encuesta de la Comisión Electoral reveló que una cuarta parte de los votantes afirmó haber encontrado un video, audio o foto deepfake en las últimas elecciones generales. "La confianza en la política es muy baja", afirmó Rangarajan. "Si no se controla, esto puede generar la sensación de 'no puedo creer lo que veo', y si la gente simplemente no lo sabe, puede que no quiera votar".
Insistió en que la comisión estaba decidida a ser proactiva para abordar un problema creciente. "Lo hemos visto en elecciones de todo el mundo para engañar a los votantes, así que lo que intentamos hacer es anticiparnos a esto detectándolo en el Reino Unido". Esperemos que con solo informar a la gente que lo estamos detectando y buscando con ahínco, podamos disuadir a la gente de usarlo.
"Intentaremos asegurarnos de que esto no se convierta en una amenaza para la democracia. No creemos que haya afectado a ningún resultado electoral en el Reino Unido y queremos que siga siendo así".
Ilustración de Observer Design