Incidentes Asociados
Facebook el viernes eliminado lo que llamó una red global de más de 900 cuentas, páginas y grupos de su plataforma e Instagram que supuestamente usaron prácticas engañosas para llevar narrativas a favor de Trump a unos 55 millones de usuarios. La red usó cuentas falsas, amplificación artificial y, en particular, fotos de perfil de caras falsas generadas con inteligencia artificial para difundir contenido polarizador predominantemente de derecha en la web, incluso en Twitter y YouTube.
Representa un nuevo desarrollo alarmante en las guerras de la información, ya que parece ser el primer despliegue a gran escala de imágenes generadas por IA en una red social. En un informe sobre la operación de influencia, los investigadores de los grupos de desinformación Graphika y DFRLab señalaron que esta era la primera vez que tenían visto la tecnología utilizada para respaldar una campaña de medios sociales no auténtica.
Las imágenes se utilizaron para realzar la autenticidad de algunas de las 610 cuentas de Facebook, 156 grupos, 89 páginas y 72 cuentas de Instagram asociadas con “The BL”, un medio de comunicación digital que se describió a sí mismo como un “puro manantial de montaña, que humedece el corazón”. de cada lector” en Facebook [antes de que se eliminara] (https://www.snopes.com/news/2019/10/11/pro-trump-outlet-linked-epoch-times/). La investigación de Facebook conectó a The BL con The Epoch Times, una organización de medios conservadora con vínculos con el grupo espiritual chino Falun Gong y una [historia de apoyo agresivo] (https://www.nbcnews.com/tech/tech-news/trump-qanon -inminente-juicio-día-detrás-facebook-alimentado-rise-epoch-n1044121) para Donald Trump.
Aparentemente una organización de medios con sede en EE. UU., las páginas de la red BL eran operadas por usuarios en Vietnam y EE. UU., quienes, según Facebook, hicieron un uso generalizado de cuentas falsas para evadir la detección y canalizar el tráfico a sus propios sitios web. Un [informe] (https://graphika.com/uploads/Graphika%20Report%20-%20OperationFFS%20Fake%20Face%20Storm.pdf) de los investigadores de Graphika y DFRLab encontró que la mayoría de las cuentas falsas de la red BL se utilizaron para mantener un grupo de más de 80 grupos y páginas que promocionan al presidente Trump. Las cuentas que actuaban como administradores de estas páginas, que ostentaban nombres como “Estados Unidos necesita al presidente Trump”, “Trump para el presidente de Estados Unidos” y “¡ESTAMOS CON TRUMP Y PENCE!”, eran predominantemente falsas y creadas en Vietnam.
“Las cuentas falsas sirvieron como administradores de los grupos de Facebook, aumentaron el número de miembros de esos grupos, dieron me gusta a las publicaciones en las páginas y publicaron grandes cantidades de contenido de los activos relacionados con TheBL”, señala el informe. “Esta estructura constituía una fábrica de amplificación artificial a gran escala cuya única función observable era impulsar el contenido de TheBL y, en menor medida, de Epoch Times”.
Muchas de estas cuentas usaban imágenes de perfil que, según los investigadores, parecían haber sido creadas usando redes neuronales entrenadas en imágenes de rostros humanos reales para crear fotos de personas que en realidad no existían. Investigadores de Graphika y DFRLab encontraron 18 imágenes de rostros en fotos de perfil utilizadas por la red BL que, según dijeron, probablemente se generaron utilizando redes adversarias generativas.
Si bien la tecnología es capaz de crear caras falsas pasables, tiene algunos indicios obvios que alertaron a los investigadores. Funciona en gran medida imitando patrones visuales, pero no comprende la anatomía humana y lucha con fondos y características simétricas, como anteojos o aretes.
La imagen de arriba, del informe de Graphika, fue tomada de la foto de perfil de “Alfonzo Macias”, un administrador de uno de los grupos de la red The BL. “Observe la asimetría en las gafas y también el fondo mal definido”, dice el informe. “Los autores verificaron esta imagen con expertos de la Universidad Federico II de Nápoles, quienes evaluaron que esta imagen fue generada por GAN con un 99,9 por ciento de certeza”.