Incidentes Asociados
Loading...
Actores pro-chinos promueven imágenes de video generadas por IA de personas ficticias en una operación de influencia en línea
- A fines de 2022, Graphika observó instancias limitadas de Spamouflage, una operación de influencia pro china (IO), que promocionaba contenido que incluía imágenes de video de personas ficticias, casi con certeza creadas con técnicas de inteligencia artificial.
- Si bien una variedad de actores de IO [cada vez más] (https://about.fb.com/news/2022/12/metas-2022-coordinated-inauthentic-behavior-enforcements/) utilizan [imágenes] generadas por IA (https: //graphika.com/posts/portrait-mode-gan-collages-and-fake-personas) o medios manipulados en sus campañas, esta fue la primera vez que observamos una operación alineada con el estado que promovía imágenes de video de personas ficticias generadas por IA.
- Es casi seguro que las imágenes generadas por IA se produjeron utilizando una "plataforma de creación de videos de IA" operada por una empresa comercial en el Reino Unido. La compañía ofrece sus servicios para que los clientes creen videos de marketing o capacitación y dice que "el contenido político [...] no se tolera ni se aprueba".
- A pesar de presentar avatares realistas generados por IA, los videos de Spamouflage que revisamos eran de baja calidad y de naturaleza fraudulenta. Además, ninguno de los videos de Spamouflage identificados recibió más de 300 visitas, lo que refleja los desafíos de larga data de este actor para producir contenido político convincente que genere una participación en línea auténtica.
- Creemos que el uso de productos de IA disponibles comercialmente permitirá a los actores de IO crear contenido engañoso de calidad cada vez mayor a mayor escala y velocidad. En las semanas transcurridas desde que identificamos la actividad descrita en este informe, hemos visto a otros actores moverse rápidamente para adoptar exactamente las mismas tácticas. Más recientemente, esto involucró a actores no identificados que usaron las mismas herramientas de inteligencia artificial para crear videos dirigidos a conversaciones en línea en Burkina Faso.