Incidentes Asociados
Según una investigación que ha alertado sobre el riesgo que supone la IA antes de las elecciones generales, tan solo en el último mes se han pagado más de 100 anuncios de vídeo falsos que se hacen pasar por Rishi Sunak (https://www.theguardian.com/politics/rishi-sunak) para que se promocionen en Facebook.
Los anuncios pueden haber llegado a 400.000 personas (a pesar de que parecen infringir varias de las políticas de Facebook) y suponen la primera vez que se ha manipulado de forma sistemática y masiva la imagen del primer ministro.
Se gastaron más de 12.929 libras en 143 anuncios, procedentes de 23 países, entre ellos Estados Unidos, Turquía, Malasia y Filipinas.
Entre ellos se incluye uno con imágenes falsas de una presentadora de noticias de la BBC, Sarah Campbell, que parece leer noticias de última hora que afirman falsamente que ha estallado un escándalo en torno a que Sunak ha obtenido en secreto "sumas colosales de un proyecto que inicialmente estaba destinado a ciudadanos corrientes".
El vídeo contiene la afirmación falsa de que Elon Musk ha lanzado una aplicación capaz de “recoger” transacciones bursátiles y sigue con un vídeo falso de Sunak diciendo que el gobierno había decidido probar la aplicación en lugar de arriesgar el dinero de la gente corriente.
Los vídeos conducen a una página falsa de BBC News que promociona una inversión fraudulenta.
La investigación fue realizada por Fenimore Harper, una empresa de comunicaciones creada por Marcus Beard, un ex funcionario de Downing Street que dirigió la respuesta del número 10 para contrarrestar las teorías de la conspiración durante la crisis de la COVID.
Advirtió de que los anuncios, que marcan un cambio en la calidad de los anuncios falsos, mostraban que las elecciones de este año corrían el riesgo de ser manipuladas por una gran cantidad de falsedades de alta calidad generadas por IA.
“Con la llegada de la clonación de voz y rostro barata y fácil de usar, se necesitan muy pocos conocimientos y experiencia para utilizar la imagen de una persona con fines maliciosos”.
“Desafortunadamente, este problema se ve agravado por las políticas laxas de moderación de la publicidad paga. Estos anuncios van en contra de varias de las políticas publicitarias de Facebook. Sin embargo, muy pocos de los anuncios que encontramos parecen haber sido eliminados”
Se ha contactado a Meta, propietaria de Facebook, para solicitar comentarios.
Un portavoz del gobierno del Reino Unido dijo: “Estamos trabajando intensamente en todo el gobierno para asegurarnos de que estamos listos para responder rápidamente a cualquier amenaza a nuestros procesos democráticos, a través de nuestro grupo de trabajo de defensa de la democracia y equipos gubernamentales dedicados.
“Nuestra Ley de Seguridad en Línea va más allá al imponer nuevos requisitos a las plataformas sociales para eliminar rápidamente la información errónea y la desinformación ilegal, incluso cuando se genera mediante inteligencia artificial, tan pronto como tengan conocimiento de ella”.
Un portavoz de la BBC dijo: “En un mundo de creciente desinformación, instamos a todos a asegurarse de obtener sus noticias de una fuente confiable. En 2023 lanzamos BBC Verify para abordar la creciente amenaza de la desinformación, invirtiendo en un equipo altamente especializado con una variedad de inteligencia forense y de fuentes abiertas (OSINT) para investigar, verificar datos, verificar videos, contrarrestar la desinformación, analizar datos y explicar historias complejas.
“Generamos confianza con las audiencias mostrando cómo los periodistas de la BBC conocen la información que están reportando y ofrecemos explicaciones sobre cómo detectar contenido falso y deepfake. Cuando nos damos cuenta de contenido falso de la BBC, tomamos medidas rápidas”.
Los reguladores han estado preocupados por el hecho de que se está agotando el tiempo para promulgar cambios generales que garanticen que el sistema electoral británico se mantenga al ritmo de los avances en inteligencia artificial antes de las próximas elecciones generales, que se prevé que se celebren en noviembre.
El gobierno ha estado manteniendo conversaciones con los reguladores, incluida la Comisión Electoral, que dice que los nuevos requisitos de la legislación a partir de 2022 para que el material de campaña digital incluya un "sello" contribuirán en cierta medida a garantizar que los votantes puedan ver quién pagó un anuncio o está tratando de influir en ellos.
Un portavoz de Meta dijo: “Eliminamos el contenido que viola nuestras políticas, ya sea que haya sido creado por una IA o por una persona. La gran mayoría de estos anuncios se habían desactivado antes de que se publicara este informe y el propio informe señala que menos del 0,5 % de los usuarios del Reino Unido vieron algún anuncio individual que se publicó.
“Desde 2018, hemos brindado una transparencia líder en la industria para anuncios sobre temas sociales, elecciones o política, y seguimos mejorando estos esfuerzos”.