Incidents associés
Loading...
Des acteurs pro-chinois font la promotion de séquences vidéo générées par l'IA de personnes fictives dans une opération d'influence en ligne
- Fin 2022, Graphika a observé des cas limités de Spamouflage, une opération d'influence (IO) pro-chinoise, faisant la promotion de contenu comprenant des séquences vidéo de personnes fictives presque certainement créées à l'aide de techniques d'intelligence artificielle.
- Alors qu'un éventail d'acteurs IO de plus en plus utilisent des [images] générées par l'IA(https : //graphika.com/posts/portrait-mode-gan-collages-and-fake-personas) ou médias manipulés dans leurs campagnes, c'était la première fois que nous observions une opération alignée sur l'État faisant la promotion de séquences vidéo de personnes fictives générées par l'IA.
- Les images générées par l'IA ont presque certainement été produites à l'aide d'une "plate-forme de création vidéo AI" exploitée par une société commerciale au Royaume-Uni. La société propose ses services aux clients pour créer des vidéos de marketing ou de formation et déclare que "le contenu politique […] n'est ni toléré ni approuvé".
- Malgré des avatars réalistes générés par l'IA, les vidéos Spamouflage que nous avons examinées étaient de mauvaise qualité et de nature spam. De plus, aucune des vidéos de Spamouflage identifiées n'a enregistré plus de 300 vues, ce qui reflète les défis de longue date de cet acteur pour produire un contenu politique convaincant qui génère un engagement en ligne authentique.
- Nous pensons que l'utilisation de produits d'IA disponibles dans le commerce permettra aux acteurs de l'OI de créer un contenu trompeur de plus en plus de haute qualité à plus grande échelle et plus rapidement. Dans les semaines qui ont suivi l'identification de l'activité décrite dans ce rapport, nous avons vu d'autres acteurs agir rapidement pour adopter exactement la même tactique. Plus récemment, cela impliquait des acteurs non identifiés utilisant les mêmes outils d'IA pour créer des vidéos ciblant les conversations en ligne au Burkina Faso.
[Lire le rapport complet] (https://public-assets.graphika.com/reports/graphika-report-deepfake-it-till-you-make-it.pdf)