Incidents associés
Les secteurs des médias, de la technologie et de la finance ne sont pas préparés à une avalanche de fausses images très convaincantes qui pourraient faire chuter les marchés boursiers et [susciter des troubles politiques](https://inews.co.uk/news/politics/national-security-democracy-danger -new-ai-laws-parliament-2356121?ico=most_popular), déclare un expert en intelligence artificielle.
An AI-generated image d'une explosion à côté de ce que l'on prétend être un bâtiment du Pentagone a été partagé en ligne lundi, après avoir été publié sur Twitter par un utilisateur se faisant passer pour l'agence de presse Bloomberg.
Au fur et à mesure de sa diffusion, la bourse S&P 500 a chuté d'environ 0,3%, à un plus bas de la séance, avant de rebondir lorsqu'elle a été confirmée fausse. RT, la chaîne d'information télévisée russe contrôlée par l'État, a tweeté la fausse image, puis a supprimé le tweet peu de temps après.
Henry Ajder, un expert des images deepfake, a déclaré que l'image était la "première vraiment importante à effrayer les marchés".
Même quelque chose qui a été découvert comme faux dans un court laps de temps pourrait avoir un impact préjudiciable. Entre les mains de mauvais acteurs, ces images pourraient être utilisées pour écraser le marché ou faire grimper le cours de l'action pour un rendement favorable, a déclaré M. Ajder, qui présente The Future Will Be Synthesised de BBC Radio 4.
"A l'avenir, il ne sera tout simplement pas possible, même pour des yeux bien entraînés, dans de nombreux cas, à partir de la seule image, de repérer un faux."
La photo a été publiée par un utilisateur sous le nom de "Bloomberg Feed" – qui avait une coche bleue à côté, ce qui signifie que les créateurs ont payé les 8 $ requis par mois à Twitter pour un compte "vérifié".
Le vrai site d'actualité *Bloomberg * a en fait une coche dorée à côté, ce qui signifie qu'il s'agit du compte officiel d'une entreprise d'une autre organisation privée. Cependant, pour juger si un compte est authentique, il faudrait que le public sache ce qu'est une coche d'or, ce qui remet en question le système de vérification actuel de Twitter, a déclaré M. Ajder.
Une explosion au Pentagone serait facile à vérifier rapidement sur le terrain, mais ce ne serait peut-être pas le cas pour une explosion dans un village ukrainien, a-t-il ajouté, et la création rapide et la sophistication croissante de telles images posaient un défi à ceux qui cherchaient. pour les nouvelles et pour les journalistes cherchant à vérifier les événements dans un environnement en évolution rapide.
"Dans un monde où vous pouvez générer tout type de contenu de manière réaliste avec l'IA à grande échelle et en quelques minutes, vous pouvez créer 200 images différentes de cet incendie sous différentes perspectives", a déclaré M. Ajder. "Je pense que cela montre vraiment à quel point notre infrastructure d'information et notre infrastructure médiatique ne sont pas préparées pour ce contenu généré par l'IA."
La semaine dernière, le directeur général d'Open AI, Sam Altman, a témoigné devant le Congrès américain, reconnaissant la nécessité d'une [réglementation de l'IA](https://inews.co.uk/opinion/the-sci-fi-future-is-here-which- est-pourquoi-nous-avons-nous-besoin-d-efforts-coordonnés-au-monde-pour-reguler-ai-2355457 ?ico=in-line_link) et en disant : "Je pense que si cette technologie tourne mal, ça peut mal tourner" * Le New York Times* a rapporté.
M. Ajder a déclaré que l'approche actuelle des risques liés à l'IA n'était pas juste car elle se concentre sur la façon dont les gens ordinaires peuvent repérer les contrefaçons, plutôt que sur une réglementation exigeante des entreprises technologiques ou sur les dépenses de modération de contenu. Les organes de presse et les entreprises technologiques n'étaient pas "préparés" à ce qui pourrait arriver, a-t-il ajouté.
"C'est une tempête parfaite où les médias d'information traditionnels prennent du temps à vérifier, la nature algorithmique de la plate-forme récompense le contenu controversé et sensationnel et les plates-formes n'ont pas beaucoup de modération de contenu forte pour filtrer ces contrefaçons", a-t-il déclaré.