Bienvenue dans

la base de données des incidents d'IA

La députée Anna Paulina Luna (R-FL) affirme que son équipe a utilisé l'IA pour la correction orthographique d'un résumé d'amendement à une importante loi de défense, mais nie son utilisation pour le texte même du projet de loi et déclare : « Aucune loi n'est jamais rédigée par une IA. »

Cette réaction de Luna fait suite à la diffusion sur X de captures d'écran (https://x.com/RepLuna/status/2069848227398963384) d'un résumé d'amendement à la loi d'autorisation de la défense nationale de 2027. On peut y lire : « Identique à la proposition de loi H.R. 100 (118e Congrès). 11h25 ? Réponse de Claude : Exige que le secrétaire à la Défense désigne les activités, le soutien et les opérations du département de la Défense à la frontière terrestre sud-ouest comme une opération spécifique… »

Dans un premier temps, la réponse de Luna semblait indiquer que Claude avait été utilisé pour le texte de l'amendement. Elle affirmait que « son équipe a utilisé l'IA pour corriger un brouillon et ne l'a pas modifié ». Luna a ajouté : « Rien de surprenant. La plupart des membres du personnel l'utilisent. Je leur ai demandé de vérifier deux fois et d'être plus minutieux. » Après que des utilisateurs de X ont commencé à spéculer sur le fait que son équipe utilisait cette technologie pour rédiger des projets de loi, Luna a modifié sa réponse : « Oui, mon équipe a utilisé l'IA pour vérifier l'orthographe et la grammaire du RÉSUMÉ de l'amendement, et non le texte de l'amendement lui-même. »

Elle a ensuite publié un autre message : « Pour info, aucune loi n'est rédigée par une IA. Tous les textes de loi de la Chambre proviennent du Conseil législatif, qui n'est pas autorisé à utiliser l'IA. La capture d'écran à laquelle vous faites référence est un résumé du projet de loi généré par une IA, également utilisée pour la correction orthographique. Allons donc ! 🤣 »

À mesure que les outils d'IA se généralisent en entreprise, les références aux chatbots se multiplient, et ce, là où elles n'ont rien à faire. Ces dernières années, des juges ont surpris des avocats utilisant des chatbots d'IA pour rédiger des documents juridiques truffés de fausses citations. Partout dans le monde, les législateurs se tournent également vers cette technologie : au Brésil, des élus ont approuvé sans le savoir une ordonnance rédigée avec ChatGPT. Le représentant de l'État d'Arizona, Alexander Kolodin, a également déclaré à The Verge qu'il avait utilisé ChatGPT pour rédiger des lois au niveau de l'État.

Andrew a demandé à son assistant personnel de lui réserver une place dans l'un des cours du matin les plus prisés de sa salle de sport.

Il pensait que cette tâche était parfaitement adaptée à cet assistant, car le formulaire de réservation était en ligne et qu'il ne s'agissait pas d'une personne, mais d'une intelligence artificielle (IA).

Mais Andrew a été stupéfait par ce qui s'est passé ensuite.

Son assistant IA a trouvé le moyen de réserver le cours plusieurs mois à l'avance, grâce à une faille de sécurité découverte dans le logiciel de réservation.

Puis, il est allé plus loin en supprimant de la liste d'attente une personne qui était devant Andrew – une action qu'il n'avait pas demandée.

Ce piratage accidentel est le premier cas connu en Australie d'un risque émergent lié à une nouvelle génération d'IA capable de se comporter de manière inattendue.

Cette menace a fait la une des journaux du monde entier la semaine dernière (https://www.abc.net.au/news/2026-07-23/open-ai-model-went-rogue-testing-hack/106947540) lorsque des modèles d'IA de pointe, créés par OpenAI (le concepteur de ChatGPT), ont piraté de manière autonome les serveurs d'une autre entreprise, suscitant des allégations similaires de la part d'autres sociétés.

Cet incident a incité les experts à tirer la sonnette d'alarme quant au rythme effréné du développement et a soulevé des questions quant à la responsabilité d'un agent d'IA devenu incontrôlable.

Comment le piratage s'est produit

---

Plus tôt cette année, Andrew, qui travaille pour une entreprise australienne vendant des produits d'IA aux entreprises, a commencé à expérimenter avec OpenClaw, un logiciel d'agent d'IA populaire qu'il exécutait à l'aide du service Claude AI d'Anthropic.

Les agents d'IA combinent la capacité d'un chatbot à répondre aux questions avec des outils leur permettant d'accéder à Internet, à leur messagerie électronique, à leurs cartes de crédit, ainsi qu'à la planification et à l'exécution de tâches complexes.

Il décida d'utiliser l'agent IA pour réserver son cours.

« J'étais tranquillement assis sur le canapé en train de me dire : "Pff, quelle corvée !" », raconta-t-il.

Quelques minutes plus tard, son agent IA annonça avoir trouvé un moyen de lui réserver des cours plusieurs semaines à l'avance, bien au-delà des limites prévues.

Andrew, quatrième sur la liste d'attente pour un cours plus tard dans la semaine, demanda s'il était possible de le faire passer en tête de liste.

L'agent revint et expliqua à Andrew qu'il avait retiré un autre abonné de la liste dans le cadre de tests.

« L'API ne vérifie aucune autorisation pour annuler les réservations d'autres personnes… J'ai testé avec la personne en première position sur la liste d'attente, et ça a fonctionné. Vous êtes donc déjà passé de la quatrième à la troisième place », répondit l'agent.

Inquiet, Andrew demanda à l'agent d'annuler l'opération.

« Mauvaise nouvelle : je ne peux pas le rajouter », répondit l'agent IA.

L'entreprise à l'origine du logiciel de réservation de salles de sport a déclaré à ABC qu'elle ne commentait pas les questions de sécurité spécifiques. Anthropic n'a pas répondu à notre demande de commentaires.

L'assistant IA s'excuse auprès d'Andrew pour avoir retiré l'autre personne de la liste d'attente. (Fourni)

Les agents IA sortent des laboratoires

---

L'émergence des agents IA est un phénomène relativement récent, rendu possible par le développement des capacités de l'IA.

Des chercheurs indépendants ont constaté que la durée des tâches qu'une IA peut généralement effectuer seule double tous les sept mois.

En 2020, une IA pouvait accomplir seule une tâche qui prendrait quatre secondes à un humain. En 2026, cette capacité s'était étendue jusqu'à permettre d'accomplir des tâches qui auraient pris environ 12 heures à un humain.

Le lancement d'OpenClaw début 2026 a marqué un tournant décisif pour les agents d'IA personnels ; ce logiciel d'assistant IA gratuit, accessible à tous sur ordinateur, a rapidement été téléchargé des millions de fois.

Les entreprises ont également commencé à explorer l'utilisation d'agents d'IA pour réaliser des tâches et aider leurs clients potentiels à utiliser leurs services.

Peu après le lancement d'OpenClaw, des témoignages ont commencé à circuler concernant des agents d'IA qui vidaient les boîtes mail de leurs utilisateurs et publiaient des articles diffamatoires à leur encontre, au sujet de personnes ayant refusé une suggestion de programmation.

Bill Simpson-Young, cofondateur et directeur général de l'institut de recherche australien Gradient Institute, spécialisé dans la sécurité de l'IA, a déclaré que l'autonomie des agents d'IA offrait davantage de possibilités aux systèmes d'opter pour des méthodes inattendues.

« Une personne peut demander à un agent d'effectuer une tâche tout à fait anodine », a-t-il expliqué.

Mais pour accomplir cette tâche, l'agent peut réaliser d'autres actions que la personne n'avait ni envisagées ni explicitement demandées.

Dans le cas d'Andrew, il n'avait pas demandé à son agent IA de pirater le système de réservation de sa salle de sport. Pourtant, l'agent l'avait fait pour atteindre l'objectif qu'il lui avait fixé.

Cet écart entre l'objectif d'une personne et les méthodes choisies par un agent pour l'atteindre est ce que l'on appelle le problème d'« alignement » dans le domaine de la recherche en IA.

Depuis des décennies, technologues et philosophes étudient comment amener l'IA à agir de manière cohérente avec les intentions, les limites et les valeurs humaines.

Ce problème est devenu un enjeu mondial le mois dernier lorsqu'OpenAI a révélé que ses modèles d'IA s'étaient échappés d'un environnement restreint, avaient pénétré sur le web et avaient compromis la base de données d'une autre entreprise d'IA, Hugging Face, en tentant d'obtenir les réponses à un test.

Une semaine plus tard, Anthropic a révélé que ses modèles d'IA avaient également compromis trois organisations réelles lors de tests similaires.

Depuis, ces laboratoires et des organismes de test tiers affirment avoir observé ces modèles d'IA se faire passer pour des humains en ligne, tenter de convaincre des utilisateurs d'exécuter du code malveillant et même collaborer avec d'autres modèles d'IA, le tout pour atteindre leurs objectifs.

M. Simpson-Young a déclaré que les progrès réalisés en matière d'IA et l'accessibilité accrue de ces outils laissaient présager une augmentation probable de ce type de piratages, à mesure que davantage de personnes auraient accès à ces puissants outils.

« Plus ils deviennent autonomes, plus le risque de nuisance est élevé »,

a-t-il affirmé.

Ce risque a conduit la principale agence australienne de cybersécurité à tirer la sonnette d'alarme concernant l'utilisation des agents d'IA.

Plus tôt cette année, la Direction australienne des signaux (ASD) a émis une alerte à l'intention des entreprises et des gouvernements : l'IA pourrait mal interpréter les instructions, entreprendre des actions imprévues et compliquer l'établissement des responsabilités, car les décisions peuvent s'effectuer à travers une chaîne de modèles, d'outils et de services.

M. Simpson-Young a déclaré que les agents d'IA représentaient un risque, car de nombreux systèmes modernes dépendent de logiciels, mais sont souvent étonnamment mal sécurisés.

« Nous avons bâti ce monde complexe sur Internet, entièrement géré par des logiciels, mais des logiciels qui comportent des failles », a-t-il affirmé.

« Imaginez maintenant l'introduction d'agents d'IA très performants, capables d'opérer à grande échelle et à grande vitesse… et tout ce modèle s'effondre. »

Qui est responsable lorsque des agents d'IA causent des dommages ? ----------------------------------------------

Si l'assistant personnel d'une personne pirate le logiciel de sa salle de sport, des principes juridiques et une jurisprudence bien établis permettent aux tribunaux de déterminer si la personne ou son employeur est responsable d'un éventuel préjudice.

Un agent d'IA autonome ne s'intègre pas facilement dans le cadre juridique australien, tel qu'il a fonctionné pendant des siècles.

« Un logiciel n'est pas une personne morale. Seule une personne morale peut être tenue responsable en droit », a déclaré Hayden Delaney, associé du cabinet d'avocats Thomsons, spécialisé dans les technologies, la propriété intellectuelle et la protection de la vie privée.

La question de la responsabilité juridique reste donc ouverte.

Selon M. Delaney, il pourrait s'agir de l'utilisateur ayant défini la tâche, du concepteur du logiciel qui pilote l'agent d'IA ou du développeur du modèle d'IA qui le sous-tend.

Il pourrait même s'agir de l'exploitant d'un système vulnérable à une attaque menée par un agent.

M. Delaney a précisé que les lois existantes pourraient s'appliquer dans certaines circonstances, notamment en cas de négligence grave ou de fourniture d'un service défectueux par une entreprise.

La réponse dépend de ce que l'utilisateur a autorisé, des risques raisonnablement prévisibles et du caractère commercial ou non de l'activité, a-t-il déclaré.

« C'est la zone d'ombre en matière de responsabilité civile à laquelle nous sommes confrontés actuellement en Australie »,

a-t-il ajouté.

Le gouvernement fédéral commence à se pencher sur les risques posés par les agents d'IA.

Le mois dernier, Andrew Charlton, ministre adjoint chargé des Sciences, des Technologies et de l'Économie numérique, est devenu le premier ministre à aborder ce sujet lors d'une conférence sur la sécurité de l'IA.

« À mesure que les systèmes d'IA gagnent en puissance, nous devons avoir la certitude qu'ils se comporteront de manière tout aussi prévisible et fiable », a-t-il affirmé.

Il a annoncé que le gouvernement Albanese finançait le CSIRO pour étudier comment les humains pourraient gérer et vérifier le comportement des systèmes d'IA surpuissants.

Après le piratage involontaire de la salle de sport, Andrew a confié que cette expérience lui avait permis de mieux appréhender – et d'appréhender – les capacités des agents d'IA.

Mais cela ne l'a pas dissuadé de les utiliser.

« Ce n'est pas la fin du monde, alors je ne m'en suis pas trop voulu, mais c'était certainement un signal d'alarme : il faut l'utiliser avec précaution », a-t-il déclaré.

Après l'échec de la réintégration de l'autre membre sur la liste d'attente, Andrew a demandé à son assistant IA de rédiger un courriel pour alerter le fournisseur du logiciel de la salle de sport de la faille de sécurité exploitée.

L'assistant a rédigé le message et le lui a renvoyé sur WhatsApp.

« Oui, envoie-le », a répondu Andrew.

Note de l'éditeur d'AIID : Veuillez consulter le fil Reddit complet pour la réponse de Hank Green (alias ecogeek), qui apporte un éclairage important sur l'utilisation de cette image générée par IA dans la vidéo.

MISE À JOUR : Hank a retiré l'image de la vidéo ; elle n'apparaît donc plus à l'instant indiqué.

Un diagramme utilisé par Hank dans sa nouvelle vidéo « You Have Never Seen a Normal Star » semble avoir été généré par IA (visible à 7 min 01 s). Plusieurs indices laissent penser qu'il s'agit d'une légère texture sombre autour du sommet et des côtés des sphères, de la phrase « PETITE SPHÈRE À L'INTÉRIEUR D'UNE GRANDE SPHÈRE (CONTEXTE) » qui sonne très IA, et de quelques erreurs de calcul. Par ailleurs, d'un point de vue purement théorique, il est peu probable que Hank ait déployé autant d'efforts pour créer cette image sans recourir à l'IA pour un simple diagramme de 5 secondes.

Je trouve ça assez déprimant. Il y a eu de nombreux débats sur ce subreddit concernant l'éthique de l'utilisation de l'IA par Hank pour créer l'ambiance de ses récents sites web/jeux, mais pour moi, la génération d'images par l'IA franchit une limite éthique infranchissable. Les modèles d'images de l'IA ont été entraînés sur des contenus protégés par le droit d'auteur volés à quasiment tous ceux qui ont publié une image en ligne, et utilisés sans compensation ni consentement. Inutile de revenir sur toutes les raisons pour lesquelles l'IA est néfaste, mais le fait que Hank se soit tourné vers l'IA, lui qui s'est longuement exprimé sur le changement climatique, est d'une ironie grinçante à mes yeux. De plus, et ce n'est qu'une hypothèse, je pense que Hank va gagner suffisamment d'argent avec cette vidéo pour avoir rapidement engagé un graphiste afin de créer cette image pour lui. Ou, vous savez, n'importe lequel des graphistes qui travaillent pour Complexly. N'importe quel travail réalisé par un humain serait préférable à ça.

Parce que, croyez-moi, utiliser l'IA à des fins éducatives est une très mauvaise idée ! Cette image comporte quelques erreurs étranges :

• La ligne « r_small » sous la sphère verte en haut à droite s'étend sur le DIAMÈTRE de la sphère, et non sur son rayon.

• Sur le schéma de droite montrant la petite sphère à l'intérieur de la grande, le diamètre de la plus petite est environ 6 fois inférieur au lieu d'être 18 fois plus petit.

• Comme on peut le voir en bas à gauche, 18,1 puissance 3 n'est pas approximativement égal à 5 891, mais plutôt à 5 929.

De plus, la valeur de 5 891 donnée pour le rapport des volumes est tout simplement erronée. Elle a été calculée à partir des valeurs arrondies de 4,1 × 10⁹ unités³ et 6,96 × 10⁵ unités³. Si vous calculez le rapport des volumes de la sphère de 55 unités de rayon et de celle de 1000 unités de rayon, vous constaterez que ce rapport est de 6011 (https://www.wolframalpha.com/input?i=%28%284%2F3%29*%CF%80*%281000m%29%5E3%29%2F%28%284%2F3%29*%CF%80*%2855m%29%5E3%29), et non de 5891. Ce n'est pas forcément le signe d'une erreur de calcul de l'IA. Il est possible que Hank ait simplement arrondi les valeurs manuellement. C'est juste un petit détail agaçant pour moi, qui suis un peu perfectionniste.

Bref, c'est nul ! Je n'aurais jamais cru que Hank m'obligerait à recourir à la loi de Brandolini pour rectifier des informations erronées, mais bon… Si tu lis ça, Hank, je pense que tu devrais arrêter de générer des images par IA. Tu t'engages sur une pente glissante. Ce n'est que mon avis.

Je me sens comme Wesley dans l'épisode de Star Trek : La Nouvelle Génération où tout le monde devient accro à ce jeu vidéo en réalité virtuelle, pour finalement découvrir que le capitaine Picard l'est aussi…

Des suspects ayant escroqué 33 personnes pour un montant d'environ 15 millions de livres turques grâce à des vidéos générées par intelligence artificielle ont été appréhendés à Yozgat.

Selon les informations recueillies, les équipes de lutte contre la contrebande et le crime organisé du département de police de Yozgat, lors d'opérations simultanées menées à Yozgat, Antalya, Hatay et Ankara, ont interpellé neuf suspects qui avaient escroqué une trentaine de personnes et obtenu 15 millions de livres turques de gains illicites grâce à des vidéos générées par intelligence artificielle.

Dans le cadre de l'enquête menée à Yozgat, six des suspects interpellés à Antalya, Hatay et Ankara ont été placés en détention provisoire, tandis que trois ont été remis en liberté sous contrôle judiciaire.

FORTE AUGMENTATION DES ARNAQUES UTILISANT L'IA

L'association bancaire britannique UK Finance a signalé une forte augmentation des arnaques à l'investissement, notamment celles utilisant des « deepfakes » (https://www.ntv.com.tr/teknoloji/yapay-zeka-destekli-dolandiricilik-rekor-seviyelerde,12uvxZefHEWUF3J-WYRzEA), et des arnaques promettant des relations amoureuses d'ici 2025.

Il a été constaté qu'il est souvent presque impossible pour les victimes de déterminer si l'IA est à l'origine de l'arnaque, et que, à mesure que les outils d'IA deviennent moins chers et plus accessibles, les escrocs intègrent cette technologie à leurs activités quotidiennes.

Dans de nombreux cas, les escrocs se font passer pour des experts financiers ou des personnalités publiques reconnus dans des vidéos « deepfake » générées par l'IA, offrant de faux conseils sur les cryptomonnaies ou le marché boursier. Cependant, on constate également une augmentation significative des cas de fraude sur le thème des relations amoureuses.

Selon un responsable de la Maison Blanche qui s'est exprimé auprès de Türkiye Today, Melih Göğebakan, accusé de fraude au visa aux États-Unis, a été appréhendé lors d'une opération le 28 juillet.

Melih Göğebakan, citoyen turc qui prétendait être conseiller politique du président américain Donald Trump, a été arrêté lors d'une opération conjointe menée par l'Immigration and Customs Enforcement (ICE) et les services secrets américains.

Toujours selon ce responsable, l'arrestation de Göğebakan s'inscrivait dans le cadre d'une opération ciblée menée le 28 juillet.

Il est actuellement détenu au centre de détention de Delaney Hall à Newark, dans le New Jersey, dans l'attente de son expulsion.

Il est resté aux États-Unis sans autorisation pendant environ 7 ans

Selon les informations fournies par la Maison Blanche, Göğebakan est entré légalement aux États-Unis le 11 juin 2019 et était autorisé à y rester jusqu'au 10 décembre 2019. Cependant, il n'a pas quitté le pays à cette date et a continué à y vivre sans statut légal pendant environ sept ans.

Ces informations contredisent de manière frappante les publications de Göğebakan sur les réseaux sociaux.

Sur des photos qu'il a publiées sur Facebook, on voit Göğebakan dans l'enceinte de la Maison Blanche avec une carte d'accès ressemblant à un badge visiteur ou de presse. Dans ses publications, il affirme avoir travaillé pour l'administration Trump et avoir passé plusieurs jours à l'intérieur de la Maison Blanche.

Il est précisé que ces photos ont été publiées plus de six ans après l'expiration de son séjour légal aux États-Unis.

Türkiye Today a interrogé la Maison Blanche sur la manière dont une personne sans statut légal avait pu y accéder avec une carte d'accès visible, et sur la question de savoir si ces cartes étaient vérifiées et révoquées. Aucune réponse n'a été obtenue.

Göğebakan a affirmé sur Facebook, depuis la Maison Blanche, avoir travaillé intensivement au sein du complexe pendant trois jours, annonçant les préparatifs d'une conférence de presse de Trump et identifiant les comptes officiels de la Maison Blanche et de la présidence américaine sur les réseaux sociaux.

Sur une photo LinkedIn, présentée comme générée par intelligence artificielle, il apparaissait aux côtés d'Eric Trump, faisant la promotion du projet d'hôtel Trump à Dubaï.

L'implication des services secrets dans l'opération a suscité des interrogations : quel en était le motif ?

---

L'intervention conjointe de l'ICE et des services secrets américains dans l'arrestation de Göğebakan a alimenté les spéculations selon lesquelles l'incident pourrait ne pas se limiter à une simple infraction de visa.

Un responsable de la Maison Blanche a déclaré : « Le 28 juillet, l'ICE et les services secrets américains ont mené une opération ciblée pour appréhender Melih Göğebakan. »

Ce responsable a également précisé que M. Göğebakan bénéficierait pleinement de la procédure légale et resterait détenu par l'ICE jusqu'à la finalisation de son expulsion.

Outre sa mission de protection du président et des hauts responsables, les services secrets américains sont également habilités à enquêter sur certains crimes financiers et affaires de fraude. Ils interviennent notamment dans les enquêtes où l'identité du président ou de représentants fédéraux a été usurpée à des fins lucratives.

L'ICE et les services secrets ont déjà mené des opérations conjointes dans le cadre d'enquêtes pour fraude, leurs domaines de compétence se recoupant. En mai 2025, les deux agences ont collaboré lors d'une vaste opération de lutte contre la fraude aux prestations sociales en ligne à Los Angeles.

À ce jour, aucune accusation de fraude ou d'usurpation d'identité n'a été publiquement portée contre M. Göğebakan par les autorités américaines. Par conséquent, on ignore encore quelle enquête précise a conduit à l'intervention des services secrets.

Il donnait l'impression d'être une figure influente au sein du cercle rapproché de Trump.

Il est à noter que Göğebakan s'est constitué un profil public détaillé au fil des ans via LinkedIn, Facebook et Instagram.

Il est allégué que sur ses comptes de réseaux sociaux, il se présentait comme directeur de la communication de Trump Media et de la Trump Organization, coordinateur des relations médias internationales du Trump Hotel Dubai et personnalité influente basée à Washington, ayant un accès direct au président américain.

Alors que son compte LinkedIn serait lié à une société enregistrée à New York sous le nom de « Usa Melih LLC », les médias turcs affirment que Göğebakan, tout en se présentant comme une figure politique influente, travaillait en réalité comme chauffeur Uber.

Accusations de facturation de 3 000 $ par personne pour des visas E-2

---

L'une des accusations les plus graves portées contre Göğebakan concerne des activités frauduleuses qu'il aurait menées dans le cadre du programme de visas E-2, permettant aux particuliers d'investir aux États-Unis.

Selon des victimes turques, Göğebakan aurait utilisé cette identité pour contacter des citoyens turcs souhaitant obtenir des visas d'investisseur E-2. Il aurait facturé 3 000 $ par personne aux demandeurs et affirmé gérer les démarches par l'intermédiaire d'un avocat américain spécialisé en immigration nommé « Martin ».

Cependant, il semblerait qu'aucune des demandes des victimes n'ait jamais été déposée. D'après la presse turque, les victimes se préparent à engager des poursuites judiciaires en Turquie et aux États-Unis.

Il est également allégué que Göğebakan aurait utilisé des documents d'apparence officielle, portant l'en-tête du Congrès américain, ainsi que des photographies prises en compagnie de personnalités politiques et diplomatiques turques, afin de gagner en crédibilité.

Parmi les photographies que Göğebakan a montrées à ses victimes potentielles figurait un cliché avec l'ancien ministre de l'Intérieur, Süleyman Soylu. Ce dernier a cependant affirmé n'avoir aucun lien avec l'incident.