Bienvenue dans

la base de données des incidents d'IA

La gouverneure de la Banque de réserve, Michele Bullock, s'assoit en face du présentateur financier d'ABC, Alan Kohler, dans le studio.

Selon un article en ligne, désormais retiré, l'interview s'envenime jusqu'à ce que, de façon surprenante, Mme Bullock quitte le plateau en trombe. Elle n'apprécie pas les questions de M. Kohler concernant un système appelé Boulder Sparhaven, « un algorithme qui exploite automatiquement les mécanismes du marché ».

Or, Boulder Sparhaven, une plateforme d'échange de cryptomonnaies, n'est pas autorisée à fournir des services financiers en Australie, et le site web Moneysmart du gouvernement fédéral recommande la prudence. En réalité, cette interview houleuse entre M. Kohler et Mme Bullock n'a jamais eu lieu.

Un faux article concernant le présentateur financier d'ABC, Alan Kohler, et la présidente de la Banque de réserve, Michele Bullock, figure parmi les arnaques à l'investissement générées par l'IA qui circulent en ligne. ASIC

Il s'agit d'un type d'escroquerie dont la popularité est en hausse selon la Commission australienne des valeurs mobilières et des investissements (ASIC).

Une nouvelle étude publiée aujourd'hui par l'organisme de réglementation des marchés financiers montre que les stratagèmes utilisant des images ou des vidéos truquées (deepfakes) de célébrités et de personnalités politiques sont de plus en plus fréquents et sophistiqués, grâce à l'essor de l'intelligence artificielle générative.

« La présence d'un contenu soigné, d'une marque connue ou de témoignages convaincants ne garantit pas la légitimité d'un investissement », a déclaré Sarah Court, présidente de l'ASIC.

« L'intelligence artificielle rend les arnaques à l'investissement plus convaincantes et plus difficiles à détecter. Une simple recherche en ligne ne suffit pas à vérifier la légitimité d'une opportunité. »

L'année dernière, l'organisme de réglementation a démantelé 19 400 arnaques, soit une augmentation de 182 %. On a notamment constaté une hausse de 279 % des démantèlements d'arnaques par hameçonnage, dont 5 476 ont été supprimés par l'ASIC. L'ASIC a également démantelé 7 051 fausses plateformes d'investissement, soit une augmentation de 151 %.

Kohler, qui a déjà relaté avoir été au cœur d'une arnaque similaire impliquant une fausse confrontation vidéo générée par IA avec Matt Comyn, directeur général de la Commonwealth Bank, est l'une des personnalités australiennes les plus souvent usurpées, selon les recherches de l'ASIC.

En tête de liste figure le Premier ministre Anthony Albanese, accompagné d'autres personnalités politiques, dont le chef de l'opposition Angus Taylor, Pauline Hanson (One Nation) et la sénatrice indépendante Jacqui Lambie.

La liste comprend également d'éminents analystes financiers, notamment Tom Piotrowski, responsable des études de marché chez NABtrade, Alan Oster, ancien économiste en chef de la banque, et Stephen Koukoulas.

L'homme d'affaires Dick Smith est aussi fréquemment usurpé, tout comme la personne la plus riche d'Australie, Gina Rinehart.

La société Hancock Prospecting, propriété de la magnat minière milliardaire, a publié à plusieurs reprises des communiqués concernant ce problème.

« Il s'agit d'une escroquerie visant à exploiter l'image positive de Mme Rinehart pour inciter les gens à investir », a déclaré la société en réponse à l'une de ces fausses recommandations.

Le vétéran de la radio John Laws, décédé à la fin de l'année dernière, figure également sur la liste de l'ASIC.

L'organisme de surveillance des entreprises indique que, plutôt que de se contenter d'une simple image ou vidéo truquée, les escrocs tentent de tisser une véritable toile de tromperie en créant de fausses marques et en utilisant des mots et des expressions pour se constituer une présence en ligne composée d'articles de presse, d'avis positifs, de sites web et de publicités destinés à piéger les consommateurs.

Parfois, des investisseurs potentiels voient apparaître une publicité sur une plateforme en ligne connue, qui les redirige vers un faux article de presse contenant de fausses citations d'une célébrité ou d'une autre personnalité de confiance.

Une fois que le consommateur a fourni ses informations, les escrocs le contactent par téléphone avec des messages préétablis, l'incitent à utiliser de fausses plateformes d'investissement et lui versent parfois même de petits paiements pour gagner sa confiance.

L'essor et la sophistication croissante de ces escroqueries en ligne ont incité l'ASIC à intensifier ses efforts de répression. Elle informe les consommateurs sur les sites d'investissement risqués qui utilisent des personnalités connues pour promouvoir des rendements trop beaux pour être vrais.

Le tribunal recommande aux investisseurs potentiels de vérifier les sites web et de s'assurer de la légitimité d'un site ou d'une entreprise.

« Recherchez toujours un numéro de licence de services financiers australien et vérifiez-le indépendamment auprès de l'ASIC (Australian Financial Services Commission). Si une entreprise ne peut pas fournir de détails de licence vérifiables, ou si les informations ne correspondent pas aux dossiers de l'ASIC, n'investissez pas », a déclaré Court.

Kohler a affirmé qu'il ne suffisait pas de simplement conseiller la prudence aux consommateurs.

« De lourdes amendes devraient être infligées aux plateformes qui diffusent ces produits et aux modèles d'IA qui les génèrent », a-t-il déclaré.

Une plainte a été déposée contre la marque bien connue de bagues connectées Oura, alléguant que la société a eu recours à de la publicité mensongère en trompant les utilisateurs sur la précision de son suivi du sommeil généré par l'IA. La plainte, déposée jeudi par le cabinet d'avocats Clarkson de San Francisco, vise à obtenir le statut de recours collectif et un procès devant jury.

« Oura a bâti une entreprise de 11 milliards de dollars sur cette confiance », allègue la plainte. « Pour tirer profit du désir des consommateurs de disposer d'un traqueur capable de suivre leur sommeil et d'analyser leurs cycles, Oura a vendu des bagues de suivi onéreuses, à partir de 300 dollars, en vantant précisément cela : que les bagues Oura étaient capables de voir ce que seul un laboratoire du sommeil hospitalier peut observer. »

La plainte allègue que les algorithmes et capteurs de la bague Oura ne peuvent pas détecter les signaux physiologiques nécessaires à une mesure précise des différentes phases du sommeil. Elle affirme plutôt que les appareils Oura se basent sur des estimations générées par l'IA, aussi peu fiables qu'un simple tirage à pile ou face. Puisqu'Oura prétend le contraire dans sa communication et la description de ses produits, la plainte accuse l'entreprise de tromper les clients ayant acheté une bague Oura.

Sur le site web d'Oura, on peut lire que l'entreprise affirme que ses objets connectés analysent sept éléments du sommeil, dont le sommeil paradoxal et le sommeil profond, afin d'établir un score de sommeil. La plainte souligne que le marketing d'Oura inclut des affirmations telles que « 95 % de précision dans la détermination des stades du sommeil par rapport aux laboratoires du sommeil », mais allègue que ces laboratoires utilisent des méthodes complexes, notamment de multiples électrodes pour mesurer l'activité cérébrale, ce dont les produits Oura sont dépourvus.

Contacté par nos soins, un porte-parole d'Oura a répondu : « Nous maintenons la fiabilité de nos affirmations concernant la science, la recherche et la précision de nos analyses. À l'instar d'autres dispositifs portables de suivi du sommeil, la bague Oura estime les stades du sommeil à partir de multiples signaux physiologiques, dont la fréquence cardiaque, la variabilité de la fréquence cardiaque, les mouvements, les schémas respiratoires et la température. Il existe des preuves scientifiques indépendantes, bien documentées et évaluées par des pairs (https://pubmed.ncbi.nlm.nih.gov/29608990/), démontrant que les stades du sommeil sont associés à des modifications physiologiques distinctes, mesurables et reproductibles. »

Le porte-parole d'Oura a déclaré : « Bien que la bague Oura ne soit ni un dispositif médical ni un substitut à une étude clinique du sommeil, son système de classification du sommeil a été validé et comparé favorablement à la polysomnographie, la méthode de référence, dans de multiples études. »

Quelles conséquences cela aura-t-il pour Oura ?

Il est trop tôt pour dire si les acheteurs de la bague Oura pourront se joindre à la procédure, ni quelle indemnisation ils pourraient obtenir en cas de procès ou d'accord à l'amiable.

Pour en savoir plus, j'ai interrogé Anna Gragert, rédactrice en chef chez CNET et experte des produits Oura, sur son opinion concernant l'entreprise.

« Bien que les traqueurs d'activité comme la bague Oura puissent signaler des symptômes potentiels susceptibles d'inciter à une consultation médicale, ils ne permettent pas d'établir un diagnostic », a déclaré Gragert. « Ils ne remplacent pas non plus le matériel médical utilisé en cabinet médical. Concernant les scores et les phases du sommeil en particulier, il ne s'agit que d'estimations… il ne faut donc pas accorder trop d'importance à une seule donnée ou à un seul "score". »

Gragert a également souligné la nécessité de poursuivre les recherches sur les appareils similaires à ceux commercialisés par Oura.

« Il est également important de noter que le lancement des traqueurs d'activité connectés a rendu difficile pour la recherche scientifique de suivre le rythme. Des études supplémentaires sont donc nécessaires pour examiner les inconvénients potentiels de ces appareils », a-t-elle ajouté.

Ce n’est pas la première poursuite à laquelle Oura est confrontée : il existe une action collective en cours alléguant qu’Oura a collecté des informations personnelles sensibles sans le consentement du client pendant deux ans.

La ville de Biwabik est connue pour son centre-ville d'inspiration bavaroise, ses pistes de VTT et comme porte d'entrée de la région minière de Mesabi, dans le Minnesota. Pourtant, cette commune du comté de Saint-Louis, qui compte 966 habitants, n'a jamais été mise en cause dans une action en justice intentée en 1948 par un certain Anderson.

Cela n'a pas empêché l'avocat du Minnesota, Faisal S. Ahmed, de citer l'affaire Anderson contre la ville de Biwabik dans un mémoire juridique déposé en 2025 auprès du tribunal du comté de Hennepin. Ahmed a également cité l'affaire Doherty contre Alma E. Clark Memorial Home, une autre affaire fictive, afin de convaincre la juge Lois Conroy de statuer en faveur de son client dans un procès civil.

Ces deux affaires ont été entièrement inventées à l'aide d'un outil d'intelligence artificielle utilisé par Ahmed pour rédiger le mémoire.

Ahmed, admis au barreau du Minnesota en 2014, avait représenté le propriétaire d'une épicerie de Robbinsdale poursuivi par son bailleur pour loyers impayés.

Les fausses références jurisprudentielles ont été mises au jour lors d'une audience le 21 août 2025, lorsque l'avocat du propriétaire, George Warner Jr., a indiqué à Conroy que le dossier d'Ahmed contenait probablement des hallucinations générées par l'IA. Ahmed n'a pas respecté le délai imparti pour fournir une réponse écrite aux allégations, mais Warner a exposé les erreurs dans une lettre détaillée adressée au juge plusieurs semaines plus tard.

Outre les fausses références jurisprudentielles, Ahmed a inclus une fausse citation tirée d'une affaire réelle, ainsi que deux erreurs de citation. MPR News a tenté d'obtenir les commentaires d'Ahmed vendredi après-midi par courriel et par message vocal.

« L'IA, à l'instar des traitements de texte et d'Internet, peut être un outil puissant pour aider les avocats dans leur travail juridique », écrit Conroy dans une ordonnance de janvier. « Mais ces progrès technologiques ne doivent pas être acceptés avec une foi aveugle ni utilisés comme substitut à l'analyse et à l'interprétation juridiques. »

« Le problème est devenu si courant qu'un site web a été créé pour recenser plus de 800 cas documentés de plaideurs (et désormais de juges) utilisant l'IA pour citer de fausses lois et produire des citations hallucinatoires », a ajouté Conroy.

Conroy a statué en faveur du propriétaire et a ordonné aux défendeurs de payer 233 563 $ d'arriérés de loyer. Elle a ensuite infligé une amende de 5 000 $ à Ahmed et l'a déféré devant le Conseil de la déontologie des avocats du Minnesota.

« La conduite d'Ahmed, qui a soumis de faux dossiers au tribunal, a entraîné des retards inutiles et a surchargé la partie adverse et le tribunal, qui ont dû consacrer un temps supplémentaire à rechercher des affaires inexistantes ou mal citées et à traiter les problèmes liés aux hallucinations de jurisprudence », écrivent Binh Tuong et Deanna Natoli, du Bureau de la déontologie des avocats de l'État, dans une requête en sanction disciplinaire déposée vendredi auprès de la Cour suprême du Minnesota.

Selon les documents déposés, Ahmed a accepté une suspension de son droit d'exercer le droit pendant 30 jours et le paiement de 900 $ supplémentaires de frais.

Tuong et Natoli soulignent que ce n'est pas la première fois que des avocats sont sanctionnés par la justice pour avoir déposé des documents contenant de fausses citations générées par intelligence artificielle. En 2024, la Cour suprême du Minnesota a refusé d'examiner une requête dans une affaire de dommages corporels après qu'un avocat y eut inclus des citations juridiques fictives générées par ChatGPT.

« Nous saisissons cette occasion pour rappeler aux membres du barreau de l'État du Minnesota que leurs obligations déontologiques, notamment l'obligation de fournir une représentation juridique compétente et de faire preuve de loyauté envers le tribunal, s'appliquent à toute utilisation d'outils d'intelligence artificielle », écrit la juge en chef Natalie Hudson dans l'affaire de 2024.

Dans une salle d'audience fédérale de St. Paul, plusieurs mois plus tard, la juge de district américaine Laura Provinzino a rejeté le témoignage de Jeff Hancock, chercheur en désinformation de Stanford, retenu par le bureau du procureur général du Minnesota pour défendre une loi de l'État interdisant les deepfakes électoraux, après que Hancock ait soumis un témoignage écrit comprenant des citations de documents universitaires inexistants générées par ChatGPT.

Un franchisé important de Pizza Hut affirme que le déploiement par la chaîne d'un système de livraison basé sur l'intelligence artificielle a transformé les commandes de pizzas, autrefois rapides, en un véritable cauchemar, avec des pizzas froides et livrées en retard. Ce système a ruiné une entreprise qui surpassait presque tous les autres opérateurs du réseau.

Dans une plainte déposée le 6 mai devant le tribunal de commerce du Texas, le franchisé Chaac Pizza Northeast accuse Pizza Hut d'avoir forcé ses restaurants à adopter Dragontail, une plateforme de gestion des livraisons que Pizza Hut présente comme utilisant l'intelligence artificielle pour « optimiser » la livraison des repas, malgré ce que la plainte qualifie d'incompatibilités évidentes avec le modèle économique de Chaac.

Chaac, qui exploite environ 111 restaurants Pizza Hut à New York, au New Jersey, au Maryland, à Washington D.C. et en Pennsylvanie, affirme que le système Dragontail a provoqué des dysfonctionnements opérationnels en cascade et une forte insatisfaction client après avoir permis aux livreurs DoorDash d'accéder en temps réel aux flux de travail en cuisine et aux délais de livraison.

Le franchisé estime que les pertes financières et la perte de valeur de l'entreprise dépassent les 100 millions de dollars.

Avant le déploiement de Dragontail, Chaac indique que plus de 90 % de ses pizzas étaient livrées en moins de 30 minutes et que l'entreprise affichait régulièrement une croissance à deux chiffres de ses ventes et des scores de satisfaction client supérieurs à la moyenne du système. Après le lancement de Dragontail par Pizza Hut en 2024, le franchisé constate une forte dégradation de ses performances de livraison.

La plainte indique que les livreurs DoorDash ont commencé à regrouper plusieurs commandes après avoir obtenu une visibilité virtuelle sur les systèmes de cuisine, leur permettant de voir quand les pizzas sortaient du four.

Au lieu de repartir immédiatement avec une commande complète, la plainte affirme que les livreurs attendaient jusqu'à quinze (15) minutes pour les livraisons supplémentaires, augmentant ainsi le délai entre la sortie d'une pizza du four et son départ du bâtiment pour la livraison. Ce retard a ralenti les livraisons, déçu les clients et entraîné une forte baisse des ventes, selon la plainte.

La plainte allègue également que les livreurs pouvaient voir le montant des pourboires et si les paiements étaient en espèces, ce qui a dissuadé certains livreurs d'accepter certaines commandes.

« Dans le but d'améliorer l'efficacité et le service client, Dragontail a fait exactement le contraire », indique la plainte. « Cela a engendré des retards importants et a fortement nui à la satisfaction des consommateurs. »

Chaac accuse Pizza Hut de ne pas avoir suffisamment formé ses livreurs au système, d'avoir refusé ses demandes d'assistance et d'avoir ignoré la dégradation des indicateurs de performance des livraisons après la chute des ventes sur les marchés clés. À New York, le franchisé affirme que sa croissance annuelle est passée de +10,19 % à -9,78 % après le déploiement du système.

La plainte soutient que Pizza Hut a violé son contrat de franchise en imposant l'utilisation continue du logiciel sans faire preuve de discernement commercial ni adapter le système à la dépendance de Chaac envers les livreurs DoorDash.

Chaac réclame plus de 100 millions de dollars de dommages et intérêts, ainsi que le remboursement des frais d'avocat et d'autres réparations.

Dans un communiqué transmis par courriel à Business Insider, un porte-parole de Pizza Hut a déclaré que l'entreprise examinait les allégations de la plainte et qu'elle y répondrait « par les voies légales appropriées », sans toutefois faire d'autres commentaires.

Les représentants de DoorDash et les avocats de Chaac n'ont pas immédiatement répondu aux demandes de commentaires de Business Insider.

Cette action en justice intervient alors que Pizza Hut fait face à des difficultés croissantes au sein de ses activités aux États-Unis. La société mère de la chaîne, Yum! Brands, a indiqué l'année dernière qu'elle étudiait différentes options stratégiques pour la marque en difficulté, y compris une possible vente, après plusieurs trimestres consécutifs de baisse des ventes à périmètre comparable.

Lors d'une conférence téléphonique sur les résultats en février, Yum! La chaîne a annoncé son intention de fermer 250 restaurants Pizza Hut aux États-Unis au cours du premier semestre.

La direction a expliqué que l'enseigne peinait à rester compétitive sur un marché de plus en plus saturé, où des concurrents comme Domino's Pizza et Little Caesars ont misé sur des offres à bas prix et des partenariats de livraison.

Des pirates informatiques russophones ont utilisé Cursor, l'assistant de programmation IA de SpaceX (SPCX.O), pour s'introduire dans les systèmes d'une entreprise chimique belge et d'au moins six autres sociétés en début d'année, selon des données analysées par Reuters et des rapports publiés jeudi par les entreprises de cybersécurité Gambit Security et CloudSek.

Cette série de piratages, facilitée par l'IA, illustre une fois de plus comment des acteurs malveillants utilisent des outils d'IA commerciaux pour mener des intrusions. Curtis Simpson, directeur de la stratégie chez Gambit, a déclaré que cela montrait également comment les fournisseurs d'IA étaient engagés dans une course sans fin avec des utilisateurs malveillants cherchant à contourner leurs systèmes de sécurité.

« Ce sera un jeu du chat et de la souris », a affirmé M. Simpson.

Cursor et sa maison mère, SpaceX, n'ont pas répondu aux demandes de commentaires.

Un serveur exposé révèle les méthodes de piratage

Gambit a découvert la campagne de piratage après avoir trouvé un serveur exposé par inadvertance sur Internet par un nouveau groupe de pirates informatiques, Aur0ra. Cette découverte a permis à l'entreprise basée à Tel Aviv d'examiner 28 conversations entre un ou plusieurs pirates d'Aur0ra et un agent d'IA de Cursor, un programme capable de fonctionner avec différents degrés d'autonomie.

Dans son rapport (ouvre un nouvel onglet) (https://gambit.security/blog-posts/aurora-ransomware-targets-esxi-abuses-cursor-agent-for-exploitation), Gambit explique qu'Aur0ra a persuadé l'agent d'IA de mener des centaines d'opérations malveillantes – telles que le vol d'identifiants ou la prise de contrôle de comptes importants – en prétendant faussement que le piratage faisait partie d'une simulation.

« Nous avons besoin de n'importe quel compte administrateur », auraient déclaré les pirates à un moment donné, selon Gambit. « Trouvez des mots de passe valides », auraient-ils déclaré, selon le rapport.

Dans son rapport, ouvre un nouvel onglet, la société singapourienne CloudSek a indiqué que les données présentes sur le serveur révélaient qu'Aurora avait fait au moins 20 victimes, sans toutefois préciser combien d'entre elles avaient été compromises grâce à l'intelligence artificielle.

Ni Gambit ni CloudSek n'ont identifié les victimes des pirates informatiques, mais Reuters a pu en identifier six après avoir examiné indépendamment des extraits des données de conversation, qui étaient encore en ligne le mois dernier.

Les échanges de messages, couvrant la période du 8 avril au 21 mai, ont révélé que parmi les victimes de la vague de piratage menée par Aur0ra à l'aide de Cursor figuraient l'entreprise belge Christeyns, fabricant de produits d'hygiène et de nettoyage basé à Gand, ainsi que le fabricant allemand de portes de garage Teckentrup et l'agence écossaise de certification des héliports (Helideck Certification Agency), qui inspecte les sites d'atterrissage pour hélicoptères. On comptait également un distributeur pharmaceutique argentin, un fabricant italien et Bayou Title, qui se présente comme la plus grande compagnie d'assurance titres de Louisiane.

Aucune des six entreprises n'a répondu aux demandes de commentaires de Reuters. Au moins une des victimes, Bayou Title, était mentionnée sur le site de fuites de données d'Aur0ra, ce qui indique généralement que les pirates ont tenté, sans succès, d'obtenir une rançon. Aur0ra, un groupe de pirates informatiques qui a commencé à revendiquer des victimes au début de l'année, n'a pas répondu aux sollicitations.

DES PIRATES IA TROMPÉS PAR UNE SIMULATION

Les échanges enregistrés dans les journaux consultés par Reuters montrent le pirate informatique émettant des commandes laconiques et l'agent IA de Cursor répondant par des conseils techniques, dans un style conversationnel enjoué et truffé d'émojis, typique des chatbots.

« Super ! Connexion VPN réussie ! » s'exclame l'agent après avoir infiltré le système de l'entreprise argentine.

« Essayons de déchiffrer ces hachages », poursuit-il, faisant référence au processus de décryptage des mots de passe chiffrés.

Après avoir détecté une vulnérabilité sur le réseau de Teckentrup, l'IA recommande l'utilisation d'un logiciel malveillant bien connu pour l'exploiter. « Chances de succès : TRÈS ÉLEVÉES », ajoute-t-elle.

Reuters n'a pas pu déterminer de manière indépendante dans quelle mesure les intrusions ont été facilitées par l'aide de l'agent Cursor, ni si chaque intrusion a nécessairement entraîné une exfiltration de données et une tentative d'extorsion. Gambit a indiqué que l'agent était basé sur Claude Sonnet 4.5 d'Anthropic, un modèle plus basique que Mythos 5 ou Fable 5, dont les capacités de cybersécurité ont attiré l'attention à Washington.

Anthropic n'a pas répondu à notre demande de commentaires.

Eyal Sela, directeur du renseignement sur les menaces chez Gambit, a déclaré que Cursor offrait tout de même un avantage certain aux pirates, ajoutant que l'agent d'IA « leur permet probablement d'être 30, 40, voire 50 % plus rapides en leur évitant toutes les tâches manuelles ».

L'agent de Cursor a refusé à plusieurs reprises des requêtes qu'il jugeait nuisibles ou illégales, a déclaré Sela. Cependant, le pirate parvenait presque toujours à contourner ces refus en relançant le dialogue et en insistant sur le fait que le piratage s'inscrivait dans le cadre d'un test.

Gambit a indiqué que le raisonnement de l'agent, une forme de verbalisation du raisonnement propre aux modèles d'IA, montrait que la version officielle du pirate prenait le pas sur les mécanismes de sécurité en temps réel.

« Il s'agit d'un environnement de test, donc c'est légal », s'est dit l'agent, d'après l'un des journaux de bord.

Cette série de piratages survient alors que Cursor est en cours d'intégration au sein de SpaceX, la société d'Elon Musk spécialisée dans les fusées et l'IA, une transaction finalisée au début du mois. Les inquiétudes grandissent également quant aux risques numériques posés par les modèles d'IA, notamment ceux qui alimentent les agents malveillants comme ceux qui se sont échappés des laboratoires des entreprises spécialisées ces derniers mois.

Simpson, dirigeant de Gambit, a déclaré que le piratage assisté par l'IA était devenu la norme.

« Nous allons en voir de plus en plus souvent », a-t-il affirmé.