Incidents associés
Il pourrait s'agir du premier exemple d'une image générée par l'IA semant suffisamment de confusion pour faire bouger les marchés boursiers.
Une fausse image d'une explosion à côté du Pentagone s'est propagée sur les réseaux sociaux et a provoqué une brève baisse du marché boursier américain lundi.
L'image maintenant démystifiée montrait un panache de fumée s'élevant à côté du siège du département américain de la Défense. Les experts disent que cela porte la marque d'être généré par l'intelligence artificielle (IA) et illustre la menace que représente la technologie en termes de désinformation.
L'image a été partagée par un certain nombre de comptes Twitter portant une coche bleue "vérifié", dont un se faisant passer pour l'agence de presse Bloomberg - appelée "@BloombergFeed" - qui a depuis été suspendue.
Les fausses nouvelles ont ensuite été diffusées par des dizaines d'autres comptes Twitter, y compris le réseau d'information contrôlé par l'État russe RT, qui a été bloqué dans l'UE mais compte plus de 3 millions d'abonnés sur la plateforme.
Un certain nombre de comptes qui ont tweeté la fausse image semblent être affiliés à des complots ou à la guerre de la Russie en Ukraine, ainsi qu'un certain nombre de comptes de crypto-monnaie avec des coches bleues.
L'un d'eux, "WhaleChart", a tweeté l'image avec le texte : "BREAKING : Explosion near Pentagon". Ce tweet a été vu plus de 500 000 fois.
La fausse nouvelle a été réfutée par le service d'incendie du comté d'Arlington, qui a déclaré: "Pentagon Force Protection Agency et l'ACFD sont au courant d'un rapport sur les réseaux sociaux circulant en ligne concernant une explosion près du Pentagone. Il n'y a AUCUNE explosion ou incident survenu dans ou à proximité de la réserve du Pentagone, et il n'y a pas de danger immédiat ni de danger pour le public.
Mais plusieurs organes de presse américains ont noté que Wall Street avait connu une baisse notable dans les instants qui ont suivi le début de la diffusion de l'image sur Twitter. Le vrai Bloomberg l'a même qualifié de "probablement le premier exemple d'une image générée par l'IA qui fait bouger le marché".
L'incident ajoute aux inquiétudes croissantes concernant l'utilisation abusive potentielle des outils d'IA pour propager de fausses nouvelles, déstabiliser les sociétés et même influencer les électeurs avant les élections.
Le chaos des chèques bleus sur Twitter
Twitter a initié des modifications controversées de son système de vérification sous la direction d'Elon Musk, qui a racheté la société pour 44 milliards de dollars (40,8 milliards d'euros) en octobre dernier.
Auparavant, les comptes jugés notables - car ils étaient des experts, des célébrités, des journalistes ou des organisations reconnus - pouvaient être vérifiés par un contrôle d'identité.
En vertu de la nouvelle politique, n'importe qui peut obtenir une coche de vérification bleue en la payant, et ils n'ont pas besoin de fournir de preuve d'identité.
Ce changement a conduit à des avertissements selon lesquels l'usurpation d'identité pourrait devenir monnaie courante sur la plate-forme - et il y a eu une forte augmentation.
Sous sa direction, Musk a déclaré que la société valait désormais moins de la moitié de ce pour quoi il l'avait achetée, à la suite d'une baisse importante des revenus publicitaires et d'un certain nombre de poursuites intentées contre la société.
Twitter a répondu à une demande de commentaire par e-mail avec un emoji caca.
"Génie de la bouteille"
La fausse image s'est propagée au milieu des inquiétudes persistantes concernant l'IA générative et les dangers potentiels qu'elle pourrait poser.
Un sondage Reuters/Ipsos publié le 17 mai a montré que plus des deux tiers des Américains s'inquiètent des effets négatifs de l'IA, tandis que 61 % pensent qu'elle pourrait menacer la civilisation.
Le PDG d'OpenAI Sam Altman a encouragé la semaine dernière les politiciens à proposer un système de régulation de l'IA, lors d'une audition au cours de laquelle un sénateur, Cory Booker, a déclaré : "Il n'y a aucun moyen de mettre ce génie dans la bouteille. Globalement, c'est exploser ».
L'Union européenne rédige actuellement sa propre loi sur l'IA pour réglementer la technologie.