Incidentes Asociados
El Partido Laborista tiene un plan para "sacar a los ciudadanos británicos de la crisis", afirma su líder, Keir Starmer, en un anuncio publicado recientemente en Facebook.
El vídeo parece real, pero se trata de un deepfake: ha sido editado y alterado mediante inteligencia artificial (IA). El fragmento original procede de un discurso que Starmer pronunció en Escocia el verano pasado sobre una propuesta energética, antes de ser modificado con tecnología de IA.
Es uno de varios vídeos falsos de políticos, entre ellos Starmer y Rishi Sunak, que circularon en Facebook e Instagram entre 2022 y principios de 2024 como parte de una campaña de desinformación.
Estos vídeos han sido manipulados para que parezcan revelar detalles de inversiones de alta rentabilidad bajo la marca Quantum AI. Se publicaron en todo el mundo y solo en el Reino Unido se visualizaron alrededor de un millón de veces. Meta, la empresa matriz de las plataformas, parece incapaz de frenar su difusión.
Estos anuncios suscitan dudas sobre la capacidad de las plataformas tecnológicas para controlar la desinformación en el período previo a las principales elecciones europeas. El problema se destaca en una nueva investigación del Bureau of Investigative Journalism (TBIJ), que revela que miles de anuncios fraudulentos protagonizados por políticos han estado circulando en Facebook en los últimos meses.
Los anuncios de Quantum AI, que también incluyen a figuras públicas como Boris Johnson, Elon Musk, Jeff Bezos, Angelina Jolie y Ryan Reynolds, parecen haber engañado a varias personas para que entregaran su dinero.
El TBIJ encontró múltiples reseñas en línea publicadas por personas que afirman haber perdido dinero con Quantum AI tras ser engañadas por los videos manipulados. Una persona dijo haber sido estafada con "cientos de dólares", mientras que otra afirmó haber perdido todos sus ahorros.
A pesar de que Meta ha bloqueado numerosos anuncios, se han seguido publicando otros nuevos que han atraído miles de visualizaciones cada uno.
La campaña parece haber tenido un alcance global, con vídeos adaptados a diferentes países. Se utilizaron imágenes manipuladas de emisoras del Reino Unido e Irlanda, así como de medios de comunicación de Italia, Francia, Hungría, Polonia, Alemania y los Países Bajos.
En el Reino Unido, la estafa se presentó como una iniciativa gubernamental, mientras que los anuncios dirigidos a países de la UE incluían a la presidenta de la Comisión Europea, Ursula von der Leyen, y parecían promocionar una "nueva plataforma de inversión para ganar dinero en Europa" llamada European Partnership. Este último anuncio incluía un sitio web falso que prometía una rentabilidad diaria de 300 € por cada 300 € invertidos.
En febrero de este año, se detectaron un total de 1200 anuncios activos en Meta que mencionaban Quantum AI, incluidos aquellos que utilizaban vídeos generados por IA.
En el Reino Unido, 321 anuncios de Quantum AI, clasificados como relacionados con temas sociales o políticos, fueron vistos hasta 1,2 millones de veces, lo que supuso un coste para los estafadores de entre 15.000 y 31.000 libras esterlinas. Sin embargo, las cifras reales probablemente sean mucho mayores: no todos los anuncios de Quantum AI recibieron esta etiqueta y TBIJ encontró vídeos idénticos con etiquetas diferentes.
Los estafadores también parecen haber secuestrado varias páginas de Facebook "verificadas", incluidas las de organizaciones o figuras políticas de Bolivia, India, México y Brasil.
Además de operar en las plataformas de Meta, también se identificaron cuentas de Quantum AI en TikTok, YouTube y X (anteriormente Twitter), plataformas que alojaban vídeos deepfake que promovían la estafa. Todas estas plataformas prohíben el contenido generado o editado por IA que engaña al público.
Un portavoz de Meta declaró a TBIJ que la empresa había eliminado los anuncios infractores, de acuerdo con sus políticas.
Añadieron: «Meta cuenta con sistemas especializados para detectar el uso indebido de celebridades, invierte fuertemente en equipos de revisión capacitados, comparte consejos para evitar estafas y ofrece herramientas para denunciar posibles infracciones. También colaboramos con las fuerzas del orden y emprendemos acciones legales».
Un portavoz de Google declaró a TBIJ: «Detectamos esta estafa por primera vez el año pasado y hemos tomado medidas drásticas, incluyendo la suspensión inmediata de varias cuentas de anunciantes y la cancelación de los canales de YouTube asociados».
TikTok informó a TBIJ que había eliminado los videos señalados y que realizaría búsquedas adicionales de contenido similar.