Incidents associés
Une photo générée par l'IA d'une explosion près du Pentagone à Washington, D.C., a provoqué l'effondrement du marché américain stock. L'image a été partagée par un compte vérifié sur Twitter appelé Bloomberg Feed, accompagné d'une légende trompeuse qui disait : "Large Explosion Près du complexe du Pentagone à Washington, DC – Rapport initial.
Premier exemple des dangers du système de paiement pour vérifier : ce compte, qui a tweeté une photo (très probablement générée par l'IA) d'une (fausse) histoire d'une explosion au Pentagone, ressemble à première vue à un Bloomberg légitime fil d'actualité. pic.twitter.com/SThErCln0p
— Andy Campbell (@AndyBCampbell) 22 mai 2023
Bien que la vérification sur Twitter n'ait aucun sens puisque n'importe qui peut payer pour la coche bleue, l'image du Pentagone générée par l'IA a eu des conséquences dans le monde réel. Selon The Byte, la "nouvelle" est devenue virale après qu'un utilisateur avec plus de 650 000 abonnés a partagé la photo à 10h06. Quatre minutes plus tard, la bourse a chuté de 0,26 %.
Le département de police d'Arlington a agi rapidement pour apaiser la panique en déclarant que l'image AI Pentagone était en effet un faux. "Aucune explosion ou incident ne se produit sur ou à proximité de la réserve du Pentagone, et il n'y a pas de danger ou de danger immédiat pour le public", a déclaré le département sur les réseaux sociaux.
@PFPAOfficial et l'ACFD sont au courant d'un rapport sur les réseaux sociaux circulant en ligne concernant une explosion près du Pentagone. Il n'y a PAS d'explosion ou d'incident sur ou à proximité de la réserve du Pentagone, et il n'y a pas de danger immédiat ou de danger pour le public. pic.twitter.com/uznY0s7deL
— Arlington Fire & EMS (@ArlingtonVaFD) 22 mai 2023
Bien que les forces de l'ordre n'aient pas confirmé si l'image a été réalisée à l'aide d'outils d'intelligence artificielle, elle présente certaines des caractéristiques des images générées par l'IA. Les colonnes du bâtiment sur la photo du canular varient en taille et la clôture se fond dans le trottoir à certains endroits. Le message, qui était également partagé par un compte Twitter d'un média d'État russe comptant plus de 3 millions d'abonnés, a depuis été supprimé.
Heureusement, les marchés ont rapidement rebondi une fois que la photo AI Pentagone s'est révélée être un canular. De même, l'éminente crypto-monnaie Bitcoin a fait face à un court crash lorsque les fausses nouvelles ont circulé, ce qui l'a fait chuter à 26 500 $. La monnaie numérique s'est stabilisée peu de temps après et se négocie actuellement à 26 882 $.
Cette forme de tromperie en ligne a suscité de vives inquiétudes parmi les détracteurs de l'avancement non réglementé de l'IA. Les experts dans le domaine ont déjà exprimé leur appréhension quant à l'utilisation abusive potentielle par des individus malveillants des systèmes d'IA avancés, permettant la diffusion de fausses informations et déclenchant le chaos au sein des communautés en ligne.
L'image du Pentagone générée par l'IA n'est pas le premier exemple de supercherie. D'autres fausses images virales qui ont induit le public en erreur comprenaient de fausses photos du pape François dans une veste Balenciaga, une photo de l'ancien président Donald Trump en cours d'arrestation, et des vidéos deepfake mettant en vedette des célébrités comme Elon Musk approuvant les escroqueries à la crypto-monnaie. De fausses séquences vidéo classées X de la star de Harry Potter Emma Watson ont également fait surface en ligne.
En conséquence, des centaines d'experts en technologie ont appelé à une pause de six mois sur le développement avancé de l'IA jusqu'à ce que des directives de sécurité appropriées soient établies. Le Dr Geoffrey Hinton, connu comme le parrain de l'IA, a volontairement quitté son poste chez Google pour faire part de ses préoccupations concernant les risques potentiels sans nuire à la réputation de son ancien employeur.
Des exemples de désinformation, comme l'image du Pentagone de l'IA, alimentent le discours en cours sur l'établissement d'un cadre éthique et réglementaire complet pour l'intelligence artificielle. Alors que cette technologie devient un outil de plus en plus important entre les mains des agents de désinformation, les conséquences peuvent être plus chaotiques qu'un krach boursier temporaire.
Un manque de transparence, de responsabilité et de considérations éthiques pourrait amplifier ces risques. Mais jusqu'à ce qu'une forme de réglementation soit mise en œuvre dans le monde entier, les cas de fausses nouvelles et d'autres tendances dangereuses ne manqueront pas d'augmenter.