Bienvenue dans

la base de données des incidents d'IA

La belle blonde Jessica Foster, déguisée en militaire, a posé avec un avion de chasse F-22 Raptor, s'est mise en tenue de camouflage dans le désert et a foulé le tarmac avec le président Donald Trump le jour du premier jour des frappes contre l'Iran.

La multitude de photos et de vidéos illustrant la vie patriotique de cette « fille idéale MAGA » a fait exploser son compte Instagram, qui a rapidement dépassé le million d'abonnés depuis ses débuts il y a quatre mois.

Mais Jessica Foster n'est qu'une illusion : une femme fictive, probablement créée par une intelligence artificielle, selon les experts. Aucun document public ne prouve son service militaire et son compte, bien que non identifié comme étant une IA, regorge d'indices qui la rendent fausse. Entre ses nombreuses publications pro-Trump, Foster expose également ses pieds de manière ostentatoire.

Le succès viral de Foster met en lumière une stratégie de plus en plus répandue pour capter l'attention en ligne. Une multitude de comptes d'extrême droite, mêlant patriotisme et pornographie soft, utilisent de fausses femmes et des images convaincantes pour capter l'attention des internautes distraits, monétiser leur intérêt et marquer des points politiques.

Des comptes montrant des femmes générées par IA se faisant passer pour des soldats, des conductrices de camions et des policières pro-Trump ont vu leur audience exploser sur des plateformes comme TikTok, Instagram et X, où des milliers d'internautes ont commenté, laissant entendre qu'ils croient à l'authenticité de ces femmes.

Une variante de cette stratégie s'est également déployée ces dernières semaines hors des États-Unis. Des centaines de vidéos générées par intelligence artificielle montrant des soldates et des pilotes iraniennes acclamant l'armée du pays ont proliféré en ligne, comme l'a révélé la BBC. Un indice révélateur de leur supercherie : l'Iran interdit aux femmes de participer à des combats.

Sam Gregory, directeur exécutif de Witness, une association de défense des droits des femmes qui étudie les deepfakes, explique que Foster illustre parfaitement le pouvoir de tromperie des générateurs de vidéos par IA.

Les progrès de l'IA permettent désormais aux créateurs de générer plus facilement un personnage fictif cohérent, utilisable sur plusieurs photos ou vidéos, et de le placer aux côtés de personnalités publiques réelles, donnant ainsi l'impression qu'il est au cœur d'événements réels.

En intégrant des éléments politiques et l'actualité à la vie fictive de ces personnages, leurs créateurs espèrent probablement maximiser leur viralité et se démarquer sur Internet, conclut Gregory. Une fois l'attention du public captée, les créateurs peuvent – comme dans le cas de Foster – le rediriger vers une plateforme payante, où l'utilisateur est invité à payer pour accéder à des scènes encore plus scabreuses.

« Foster est l'incarnation même des fantasmes des partisans de Trump, le tout concentré sur une seule chaîne. Mais c'est manifestement de l'IA : les images sont sans provenance, on ne sait rien d'elle, et il y a des bugs visibles », a-t-il déclaré. « On trouve en ligne une multitude de belles femmes, réelles ou virtuelles, mais en avoir une d'aussi proche du pouvoir, au cœur des grands événements du moment, lui confère un prestige différent. »

La personne qui gère le compte de Foster n'a pas répondu aux demandes de commentaires. Après que le Washington Post a sollicité une réaction, le compte a publié mercredi une nouvelle photo montrant Foster à bord d'un navire militaire dans le détroit d'Ormuz.

Une porte-parole de l'armée a déclaré que les autorités n'avaient trouvé aucune trace de Foster. Instagram a supprimé le compte de Foster pour violation de son règlement jeudi soir, a déclaré un porte-parole de Meta. La Maison Blanche n'a pas répondu aux demandes de commentaires.

La première vidéo de Foster, publiée le jour de Thanksgiving, montrait la jeune femme aux yeux bleus assise sous un drapeau américain, vêtue d'un t-shirt moulant. La légende demandait à tous les « hétéros qui aiment les filles de l'armée américaine » de commenter.

Plus de 50 photos et vidéos ont suivi au cours des mois suivants, révélant une série de rencontres avec la Première dame Melania Trump, le président ukrainien Volodymyr Zelensky, le président russe Vladimir Poutine et la star du football Lionel Messi. Entre ces rencontres, Foster a fait des blagues grivoises, prononcé des discours et participé à des batailles d'oreillers avec ses collègues féminines.

« Le meilleur job du monde », pouvait-on lire en légende d'une vidéo du mois dernier montrant Foster portant un casque et un gilet tactique.

Ces moments étaient pour le moins extravagants, mais même les détails étaient révélateurs. Les insignes sur ses uniformes de combat et de service suggèrent un mélange confus de qualifications, indiquant qu'elle est soit sergent-chef, soit diplômée de l'école des Rangers, soit générale de brigade.

Sur une photo, elle apparaît en train de prononcer un discours à la « Conférence sur la frontière de la paix », une version ratée du nouveau Conseil de la paix de Trump. Sur une autre, où elle tient en otage Nicolás Maduro, l'ancien président vénézuélien, son uniforme affiche son prénom au lieu de son nom.

Malgré tout, des milliers d'utilisateurs se sont précipités sur ses publications pour commenter. À propos de Foster, Justine Moore, investisseuse de la Silicon Valley et membre du fonds de capital-risque Andreessen Horowitz, a déclaré sur X : « Je suis vraiment sidérée par le nombre d'hommes qui suivent des influenceuses qui sont clairement des IA. »

Les publications de Foster ont reçu plus de 100 000 commentaires, provenant en grande partie de comptes dont la photo de profil montre un homme. Certains l'ont accusée d'être une IA, tandis que beaucoup ont simplement salué sa beauté, lui ont envoyé des émojis en forme de cœur ou l'ont encouragée.

Le compte Instagram vérifié d'un responsable des transports brésilien a aimé la plupart de ses photos et a dit à Foster qu'elle était « linda », c'est-à-dire belle. Un autre utilisateur a demandé : « Pourquoi ne réponds-tu JAMAIS ? » (Les comptes n'ont pas répondu aux demandes de commentaires.)

Le compte Instagram de Foster, qui comprend des galeries intitulées « training », « U.S. » et « dailyarmy », était initialement lié à un compte OnlyFans, une plateforme d'abonnement populaire auprès des créateurs de contenu pornographique. Un porte-parole d'OnlyFans a déclaré que le compte avait été supprimé pour non-respect de son règlement, qui exige que tous les créateurs soient des adultes humains vérifiés.

Foster redirige désormais les internautes vers son compte sur Fanvue, une plateforme concurrente d'OnlyFans plus petite, qui accepte les modèles IA et les qualifie de « générées ou améliorées ».

Son compte, « jessicanextdoor », indique être basé à Fort Bragg, l'immense base militaire de Caroline du Nord qui abrite le Commandement des opérations spéciales de l'armée de terre américaine, et décrit Foster comme « fonctionnaire le jour, faiseuse de troubles la nuit 🤍 ».

De nombreux influenceurs utilisent cette technique de tunnel de vente pour convertir les spectateurs gratuits en abonnés payants donnant accès à du contenu plus explicite et exclusif. Fanvue a refusé de communiquer des informations sur ce compte, qui invite les internautes à s'abonner pour obtenir du « contenu exclusif ».

« Au fait, je réponds à tous les messages, mais soyez patients, je ne suis pas un robot », pouvait-on lire sur le compte, accompagné d'un clin d'œil. Quelques jours après sa création, le compte avait déjà récolté plus de 10 000 mentions « J'aime ».

Les personnes mal intentionnées n'ont pas besoin d'intelligence artificielle pour tromper les internautes. De vraies femmes ont vu leurs photos utilisées en ligne pour diffuser des messages politiques qu'elles n'approuvaient pas : en 2023, une supportrice de Trump a été transformée en un compte d'extrême gauche incitant à la haine. En 2024, des influenceurs européens ont été présentés comme des partisans inconditionnels de Trump.

Joan Donovan, professeure adjointe à l'Université de Boston et spécialiste de la manipulation médiatique, explique que l'intelligence artificielle a contribué à la multiplication de ces comptes grâce à leur facilité de création, leurs possibilités de personnalisation infinies et la perspective claire de gains financiers qu'ils offrent à leurs créateurs. Leur connotation politique garantit également la diffusion des images dans les fils d'actualité.

Le principal risque, selon Donovan, est que cette stratégie frauduleuse se transforme en guerre informationnelle. Les comptes anonymes pourraient alors être déployés comme une véritable « armée de bots » capable de diffuser massivement propagande, désinformation ou arguments de guerre.

« Le danger, c'est que nous nous dirigeons vers une société de l'irréel », affirme Donovan. « C'est un moyen efficace de faire passer des messages politiques. On ignore même si la vente de photos de pieds est la véritable vocation de Jessica Foster. »

Alex Horton a contribué à cet article.

19 mars (Asia Today) – Un candidat soupçonné d'avoir utilisé un deepfake pour se faire passer pour quelqu'un d'autre a infiltré un entretien d'embauche en ligne dans une entreprise informatique japonaise, soulevant des inquiétudes quant à d'éventuels liens avec des programmes nord-coréens visant à obtenir des emplois à l'étranger et à générer des devises étrangères.

Selon un article paru jeudi dans le Yomiuri Shimbun, le candidat a utilisé l'intelligence artificielle pour usurper l'identité d'une personne réelle en modifiant ses traits faciaux et ses informations personnelles lors d'un entretien à distance mené au début du mois à Tokyo.

L'homme, qui s'est présenté sous un faux nom, a affirmé avoir grandi aux États-Unis et a demandé à travailler entièrement à distance. Lorsqu'on lui a indiqué qu'une présence physique était requise, il a mis fin à l'entretien après environ deux minutes.

Le candidat avait soumis un CV en anglais via une plateforme de recrutement japonaise, faisant état d'une expérience dans une grande entreprise et prétendant maîtriser parfaitement le japonais. Cependant, le recruteur a découvert par la suite que le profil et les informations relatives à la carrière correspondaient à ceux de Kenbun Yoshii, le PDG d'une entreprise informatique basée à Tokyo.

Yoshii a déclaré que des images et des vidéos de lui, disponibles publiquement, semblaient avoir été utilisées pour créer une fausse identité, qualifiant l'incident de « troublant et effrayant ». Il a ensuite reçu plusieurs signalements de candidats utilisant son identité pour postuler auprès d'autres entreprises.

L'analyse de l'enregistrement de l'entretien par plusieurs organisations, dont Okta et une start-up de détection de deepfakes basée à Tokyo, a révélé une forte probabilité que la vidéo ait été générée par intelligence artificielle. Les enquêteurs ont relevé des irrégularités telles qu'une ligne de cheveux peu naturelle, un bref décalage des yeux et une incohérence entre les mouvements des lèvres et le son.

Okta a indiqué que plus de 6 500 cas similaires ont été identifiés dans le monde ces dernières années, impliquant des individus soupçonnés d'être des informaticiens nord-coréens utilisant de fausses identités pour obtenir des emplois à distance dans des entreprises étrangères. Dans certains cas, les revenus ont été transférés en Corée du Nord, contribuant potentiellement au financement de ses programmes d'armement.

Une analyse distincte menée par Trend Micro a mis en évidence que des groupes cybernétiques nord-coréens expérimentent la technologie des deepfakes et produisent un grand nombre de CV falsifiés, revendiquant souvent une expertise en ingénierie full-stack.

Des experts en sécurité ont averti que ces tactiques, autrefois concentrées aux États-Unis et en Europe, se répandent désormais au Japon. Ils ont exhorté les entreprises à renforcer leurs procédures de vérification d'identité, notamment par l'authentification multifacteurs et les entretiens en personne.

Les chercheurs ont également souligné que les progrès rapides de la technologie des deepfakes rendent leur détection de plus en plus difficile sans outils techniques, et recommandent des méthodes de vérification multicouches ainsi qu'un interrogatoire technique approfondi lors des processus de recrutement.

-- Rapport d'Asia Today ; traduction de UPI

Un associé du cabinet de conseil KPMG a été sanctionné financièrement pour avoir utilisé l'intelligence artificielle afin de tricher lors d'une formation interne sur l'IA.

Cet associé, dont l'identité n'a pas été révélée, a écopé d'une amende de 10 000 dollars australiens (environ 5 200 livres sterling) pour avoir utilisé cette technologie à des fins frauduleuses. Il fait partie d'un groupe d'employés qui auraient eu recours à cette pratique.

Plus d'une vingtaine d'employés de KPMG Australie ont été pris en flagrant délit d'utilisation d'outils d'IA pour tricher lors d'examens internes depuis juillet, a indiqué l'entreprise, ce qui accroît les inquiétudes concernant la fraude facilitée par l'IA dans les cabinets d'expertise comptable.

Le cabinet de conseil a utilisé ses propres outils de détection par IA pour découvrir la fraude, selon l'Australian Finance Review, qui a révélé l'affaire.

Les quatre plus grands cabinets d'audit ont été confrontés à des scandales de fraude ces dernières années. En 2021, KPMG Australie a été condamnée à une amende de 615 000 dollars australiens pour fraude généralisée, après qu'il a été constaté que plus de 1 100 associés avaient partagé indûment les réponses à des tests conçus pour évaluer leurs compétences et leur intégrité.

Cependant, les outils d'intelligence artificielle ont ouvert de nouvelles perspectives de fraude. En décembre, l'Association des experts-comptables agréés (ACCA), le principal organisme comptable du Royaume-Uni, a annoncé qu'il exigerait désormais que les étudiants en comptabilité passent leurs examens en présentiel, car il serait autrement trop difficile d'empêcher la tricherie aux examens à l'aide de l'IA.

Helen Brand, directrice générale de l'ACCA, avait alors déclaré que les outils d'IA avaient atteint un point critique, leur utilisation dépassant les mesures de protection contre la fraude mises en place par l'association.

Des entreprises comme KPMG et PricewaterhouseCoopers ont également rendu obligatoire l'utilisation de l'IA dans leurs évaluations annuelles. Le personnel d'utiliser l'IA au travail, apparemment dans le but d'augmenter les profits et de réduire les coûts.

Les associés de KPMG seront évalués sur leur capacité à utiliser les outils d'IA lors de leurs entretiens d'évaluation de 2026 (https://news.bloombergtax.com/daily-tax-report-international/kpmg-staff-to-be-rated-on-ai-usage-in-yearly-performance-reviews). Niale Cleobury, responsable mondiale de l'IA au sein du cabinet, a déclaré : « Nous avons tous la responsabilité d'intégrer l'IA à l'ensemble de nos activités. »

Sur LinkedIn, certains internautes ont souligné l'ironie de la situation : utiliser l'IA pour tricher lors de sa propre formation. KPMG « lutte contre l’adoption de l’IA au lieu de repenser la formation de ses employés. Il ne s’agit pas d’un problème de tricherie, compte tenu du nouvel ordre mondial. C’est un problème de formation », a écrit Iwo Szapar, créateur d’une plateforme évaluant la « maturité en IA » des organisations, sur LinkedIn.

KPMG a déclaré avoir mis en place des mesures pour identifier l’utilisation de l’IA par son personnel et surveiller le nombre de ses employés ayant fait un usage abusif de cette technologie.

Andrew Yates, directeur général de KPMG Australie, a déclaré : « Comme la plupart des organisations, nous nous sommes interrogés sur le rôle et l’utilisation de l’IA dans le cadre de la formation et des tests internes. C’est un sujet complexe, compte tenu de la rapidité avec laquelle la société l’a adopté.

« Étant donné l’utilisation quotidienne de ces outils, certains employés enfreignent notre politique. Nous prenons ces infractions très au sérieux. » Nous étudions également des moyens de renforcer notre approche dans le cadre du régime actuel d'autodéclaration. »

On aime tous les histoires de robots agents qui tournent mal, et on éprouve souvent une certaine jubilation à l'égard de nos compagnons virtuels. Cependant, il arrive que ces erreurs soient dues à une supervision insuffisante, comme ce fut le cas pour Alexey Grigorev, qui a eu le courage de raconter en détail comment Claude Code a effacé des années de données sur un site web, y compris les sauvegardes de restauration.

L'histoire commence lorsque Grigorev a voulu migrer son site web, AI Shipping Labs, vers AWS et partager la même infrastructure que DataTalks.Club. Claude lui-même a déconseillé cette option, mais Grigorev a estimé que le coût et les complications liés au maintien de deux environnements distincts ne valaient pas la peine.

Gregory utilise Terraform, un outil de gestion d'infrastructure capable de créer (ou de supprimer) des configurations complètes, incluant réseaux, répartition de charge, bases de données et, bien sûr, les serveurs eux-mêmes. Il a demandé à Claude d'exécuter un plan Terraform pour configurer le nouveau site web, mais a oublié de télécharger un fichier d'état essentiel contenant une description complète de la configuration à un instant donné.

L'article continue ci-dessous

Vous aimerez peut-être

Claude a suivi les instructions de Gregory et a créé une configuration pour le site Shipping Labs. Cependant, l'opérateur a interrompu le processus en cours. En l'absence du fichier d'état, des ressources dupliquées ont été créées. Gregory a demandé à Claude d'identifier ces ressources pour corriger le problème, puis a téléchargé le fichier d'état, pensant avoir résolu la situation.

Malheureusement, Gregory a supposé à ce moment-là que le bot continuerait à supprimer les ressources dupliquées et ne consulterait le fichier d'état qu'ensuite pour vérifier la configuration initiale. Terraform et les outils similaires peuvent être très impitoyables, surtout lorsqu'on les utilise sans réfléchir. Claude étant désormais en possession du fichier d'état, il a logiquement exécuté une opération de destruction Terraform afin de procéder à une restauration correcte.

Étant donné que la description de l'infrastructure incluait le site web DataTalks.Club, cette opération a entraîné la suppression complète de la configuration des deux sites, y compris une base de données contenant 2,5 ans d'enregistrements, ainsi que les instantanés de base de données sur lesquels Grigorev comptait comme sauvegardes. L'opérateur a dû contacter le support technique d'Amazon (https://www.tomshardware.com/tag/amazon), qui a permis de restaurer les données en une journée environ.

Dans son rapport d'analyse, Gregory décrit les mesures qu'il prend pour éviter que de tels incidents ne se reproduisent : mise en place d'un test périodique pour la restauration de la base de données, application de protections contre la suppression aux autorisations Terraform et AWS, et déplacement du fichier d'état Terraform vers un stockage S3 plutôt que sur sa machine locale. Il a également admis avoir « trop compté sur l'agent d'IA pour exécuter les commandes Terraform » et a décidé de le désactiver. Il examinera manuellement chaque plan présenté par Claude afin de pouvoir effectuer lui-même toute action destructive.

Recevez les meilleures actualités et les tests approfondis de Tom's Hardware directement dans votre boîte mail.

On pourrait être tenté de classer cette histoire dans la catégorie des « bots stupides qui ont mal tourné », mais il y a fort à parier que la plupart des administrateurs système auront repéré les problèmes fondamentaux de l'approche de Grigorev, notamment l'octroi de permissions très étendues à ce qui est en réalité un subordonné, ainsi que l'absence de limitation des permissions dans un environnement de production.

La principale leçon à tirer est peut-être qu'il ne fallait pas supposer que Claude ait même le contexte (sans jeu de mots) nécessaire pour comprendre la signification de l'existence du second site web, tout comme un administrateur système junior ne l'aurait pas.