Incidents associés
Casey Morris, avocate dans le nord de la Virginie, a récemment recommencé à consulter Facebook après une longue pause. Parmi les publications de ses amis et de sa famille, elle a remarqué une tendance étrange.
« La légende dit : « Fermez les yeux à 70 % et voyez de la magie. » Et sans plisser les yeux, c'est très clairement une sorte d'image de Jésus, mais elle sera composée de légumes, d'un tracteur et d'une petite fille qui sont en quelque sorte déformés », a-t-elle déclaré.
Ce n'était pas la seule bizarrerie dans le fil d'actualité de Morris. Des images similaires avec des légendes identiques revenaient régulièrement. Il en était de même pour des publications différentes, plus exploitantes sur le plan émotionnel, représentant des mères handicapées et des enfants dans la boue ou des amputés souriants, avec des légendes demandant un vœu d'anniversaire.
« Cela a fait de Facebook un endroit très bizarre et très effrayant pour moi », a déclaré Morris.
Entre leur sujet, leurs indices stylistiques et leurs erreurs étranges, il est rapidement devenu évident pour Morris que ces images étaient fausses — les produits de l'intelligence artificielle.
Elles ne sont pas publiées par des personnes qu'elle connaît ou qu'elle suit. Au lieu de cela, Facebook suggère qu'elle pourrait être intéressée par elles — et elles semblent être très populaires.
"Elles reçoivent des milliers de réactions et des milliers de commentaires [de] personnes qui semblent penser qu'elles sont réelles, alors elles leur souhaitent un joyeux anniversaire ou disent quelque chose de religieux dans les commentaires", a-t-elle déclaré.
Morris n'est pas la seule utilisatrice de Facebook dont le fil d'actualité a commencé à se remplir de spam généré par l'IA. Les journalistes du site technologique 404 Media ont observé une augmentation de publications apparemment générées par l'IA sur Facebook, qui appartient à Meta, au cours des derniers mois. Des images générées par l'IA comme celles-ci commencent également à apparaître sur d'autres sites de médias sociaux, notamment Threads, qui appartient également à Meta, et LinkedIn.
Spam et escroqueries
Sur Facebook, dans de nombreux cas, il semble que l'algorithme de la plateforme booste les publications de l'IA.
Lorsque des chercheurs des universités de Georgetown et de Stanford ont enquêté sur plus de 100 pages Facebook qui publient régulièrement du contenu IA, parfois des dizaines de fois par jour, ils ont découvert que beaucoup d'entre elles se livraient à des escroqueries et à du spam.
« Nous avons vu des images générées par l'IA de tout ce que vous pouvez imaginer, des cabanes en rondins aux grands-mères avec des gâteaux d'anniversaire en passant par des enfants avec des peintures magistrales qui ne pouvaient tout simplement pas être réelles », a déclaré Josh Goldstein, chercheur à l'université de Georgetown et co-auteur de l'étude préliminaire, qui n'a pas encore fait l'objet d'un examen par les pairs.
Goldstein et son co-auteur ont également découvert que Facebook recommande activement certains de ces contenus IA dans les flux des utilisateurs, créant ainsi potentiellement un cycle dans lequel les publications suscitent davantage d'engagement, de sorte qu'elles sont recommandées à encore plus d'utilisateurs. Certaines publications individuelles des pages qu'ils ont analysées ont accumulé des centaines de milliers, voire des millions d'interactions.
« Il ne s’agissait pas d’images sporadiques ici ou là avec lesquelles seules quelques personnes interagissaient. Elles ont vraiment suscité beaucoup d’intérêt », a déclaré Goldstein.
Leur analyse a révélé que certaines de ces pages sont des spams classiques, publiant des liens vers des sites Web sur lesquels elles peuvent collecter des revenus publicitaires. D’autres sont des escrocs, faisant la publicité de produits générés par l’IA qui ne semblent pas exister réellement.
Mais de nombreuses pages n’ont pas de motivation financière claire, a déclaré Goldstein. Elles semblent simplement accumuler une audience à des fins inconnues.
« Il se pourrait que ces pages aient été malveillantes et qu’elles aient ensuite tenté de vendre des produits ou de créer des liens vers des sites Web remplis de publicités, voire même de changer de sujet pour quelque chose de politique », a déclaré Goldstein. « Mais je soupçonne qu’il est plus probable que bon nombre de ces pages aient simplement été créées par des créateurs qui ont réalisé que c’était une tactique utile pour obtenir l’engagement du public. »
Le clickbait a toujours été présent sur les réseaux sociaux. Mais au cours des dernières années, Facebook a doublé le nombre de publications recommandées aux utilisateurs, car il cherche à suivre l'évolution des médias sociaux lancée par TikTok. Lors d'une récente conférence téléphonique sur les résultats, le PDG de Meta, Mark Zuckerberg, a déclaré aux analystes que les publications recommandées représentent désormais environ 30 % des flux des utilisateurs.
Un passage des images basées sur la réalité à l'étrange
Dans le même temps, le contenu généré par l'IA est désormais plus facile que jamais à créer pour tout le monde. Ensemble, ces dynamiques créent une recette pour des représentations étranges de Jésus, des publications d'anniversaire dérangeantes et des architectures et objets artisanaux impossibles à devenir viraux.
"Cela imite, en quelque sorte, tous les éléments qui ont rendu quelque chose viral. Mais ils mettent en place les images les plus bizarres que j'aie jamais vues", a déclaré Brian Penny, un écrivain indépendant qui suit l'IA sur Facebook depuis près de deux ans. Il fait partie d'un groupe dédié au partage et à la démystification des images d'IA.
Penny a vu un changement dans les images qui ont un certain ancrage dans la réalité — comme la représentation générée par l'IA du Pape François portant un manteau bouffant qui est devenue virale l'année dernière — vers quelque chose de bien plus étrange.
« Nous travaillons à réduire la diffusion de contenu qui est du spam ou sensationnel parce que nous voulons que les utilisateurs aient une bonne expérience, c'est pourquoi nous leur offrons des contrôles sur ce qu'ils voient dans leur flux », a déclaré un porte-parole de Meta à NPR dans un communiqué.
L'entreprise prévoit de commencer prochainement à étiqueter le contenu généré par l'IA créé avec des outils de pointe. La semaine dernière, TikTok a commencé à appliquer des étiquettes similaires à certains messages générés par l'IA sur sa plateforme.
En attendant, la montée en flèche du spam IA rebute de nombreuses personnes.
Katrina McVay, qui vit à Grand Rapids, dans le Michigan, dit qu'elle a dû décourager sa mère d'acheter des boiseries et autres décorations pour la maison qu'elle voit sur Facebook, qui sont clairement fausses.
"Elle me disait : 'Ce ne serait pas génial pour ta fille ?'", a déclaré McVay. "Et moi, je lui répondais : 'Ce n'est pas réel, cependant'".
Certains utilisateurs de Facebook envisagent de quitter complètement la plateforme en raison de leur frustration de se voir recommander des images d'IA spammées.
"Suis-je censé parcourir tout ça pour voir que mon cousin vient d'aller dans le désert du Sahara ?", a demandé Borys Rzonca, un designer de meubles de Los Angeles. "Ça ne vaut plus la peine pour moi".
Au-delà du fait de trouver ennuyeux le spam d'IA sur Facebook, de nombreuses personnes avec lesquelles NPR s'est entretenue disent qu'elles s'inquiètent des enjeux plus importants liés à l'apparition d'images artificielles partout.
"Cela renforce en quelque sorte l'incrédulité des gens et... rend plus difficile de voir ce qui est réel", a déclaré Hobey Ford, un marionnettiste de Caroline du Nord qui a vu des images d'IA apparaître dans des groupes Facebook dédiés à la science, prétendant représenter de nouvelles découvertes.
"Et je pense que c'est dangereux dans notre monde en ce moment", a-t-il déclaré.