Bienvenue dans

la base de données des incidents d'IA

Notre mission est de garantir que l'intelligence artificielle générale profite à toute l'humanité. Nous poursuivons cette mission en déployant nos innovations pour construire une IA démocratique : une IA façonnée par des principes démocratiques, régie par des règles de bon sens et conçue pour aider les individus à résoudre des problèmes complexes tout en les protégeant des préjudices réels. Cette mission implique également d'identifier et de contrer les tentatives des régimes autoritaires et de leurs alliés d'utiliser les systèmes d'IA pour contraindre les critiques, surveiller les populations ou interférer subrepticement dans les sociétés démocratiques.

Dans ce rapport, nous décrivons deux groupes de comptes ChatGPT, probablement originaires de Chine, que nous avons bannis après qu'ils ont utilisé nos modèles dans le cadre d'opérations d'influence clandestines visant à manipuler un débat légitime sur l'IA américaine et les politiques technologiques en général.

Le premier groupe a généré des commentaires et des images sur les réseaux sociaux affirmant que la construction de centres de données pour l'IA entraînait une hausse des prix de l'électricité pour les ménages. Nous avons baptisé ce groupe « La campagne de l'effet d'entraînement des centres de données ».

Le second groupe a généré des commentaires et des images critiquant les droits de douane américains, perçus comme des tentatives de domination technologique. Les consignes précisaient que le contenu ne devait pas mentionner le dirigeant chinois Xi Jinping, mais uniquement le président Trump. Ce groupe était connecté à un réseau de comptes de réseaux sociaux probablement inauthentiques, qui ciblaient vraisemblablement OpenAI en prétendant que les données des utilisateurs de ChatGPT avaient été compromises. Ces allégations étaient totalement fausses. Nous avons baptisé ce second groupe la campagne « Technologie et Droits de douane ».

Le ciblage d'OpenAI et du développement des centres de données américains est significatif, non pas parce que l'opération semble avoir influencé l'opinion publique, mais parce qu'il révèle que des acteurs d'influence d'origine chinoise testent des discours à l'encontre de l'infrastructure d'IA – un pilier du leadership technologique américain, de la croissance économique et, plus largement, de l'écosystème démocratique de l'IA. L'opération visait à exploiter et à amplifier les inquiétudes publiques existantes concernant les prix de l'énergie et les impacts locaux du développement des centres de données, mais nous n'avons trouvé aucune preuve d'une diffusion significative au-delà de sa propre activité. Les opérations d'influence étrangères cherchent depuis longtemps à s'appuyer sur des problèmes locaux existants et des convictions sincères, les utilisant pour gagner en crédibilité, amplifier les divisions ou exacerber la méfiance du public. Dans ce cas précis, les opérateurs ont tenté de s'infiltrer subrepticement dans un débat américain en cours sur l'avenir des capacités du pays en matière d'IA, tout en dissimulant leur identité et leurs motivations.

En publiant ces conclusions, nous souhaitons aider notre secteur, les gouvernements, la société civile et le public à mieux identifier et contrer les tentatives d'acteurs étrangers malveillants de manipuler les débats publics légitimes, d'affaiblir les institutions démocratiques et de promouvoir un totalitarisme s'appuyant sur les caractéristiques de l'IA – c'est-à-dire l'utilisation de l'IA à des fins de surveillance, de censure et de contrôle de la vie politique, sociale et privée.

Ces derniers mois, Facebook a été inondé de publications d'images générées par IA sur le thème des États américains, provenant d'une multitude de comptes étrangement similaires aux noms tels que « La vie au Nevada », « J'ai grandi en Iowa » et « La vie en Utah ». Le contenu publié par ces comptes présente fréquemment des images rurales et est extrêmement similaire, quel que soit l'État auquel la publication est censée faire référence ; nombre d'images publiées sont quasiment interchangeables, à l'exception du nom de l'État. Ironie du sort, ce réseau de comptes sur le thème des États-Unis ne semble pas être géré depuis les États-Unis ; la fonctionnalité de transparence des pages Facebook indique que certains, voire tous, ces comptes sont en réalité gérés depuis le Bangladesh.

La plupart de ces pages ont été créées ou renommées en 2026.

Ces comptes Facebook font partie d'un réseau de spam composé d'au moins 49 pages Facebook sur le thème des États américains. Tous les États, à l'exception du Delaware, sont représentés. Nombre d'entre eux sont récents, et beaucoup d'anciens comptes ont été renommés récemment. Leurs noms ressemblent généralement à « La vie à <État> » ou « La vie à <État> ». « Juste des trucs du Connecticut », « J'ai grandi dans l'Iowa » et « La vie, c'est l'Idaho » font exception à la règle.

La vie au Nevada, ou peut-être au Bangladesh

23 des 49 comptes disposent d'informations de géolocalisation via la fonctionnalité « Transparence des pages » de Facebook ; chacun de ces 23 comptes a au moins un opérateur au Bangladesh. Deux comptes ont également des opérateurs dans d'autres pays : « Louisiana Life » aurait au moins un opérateur basé en Grèce, tandis que « Massachusetts Life » semble être partiellement géré depuis l'Arabie saoudite. Certains comptes ont été renommés, et dans quelques cas, les anciens noms indiquent que le contenu précédent avait probablement un thème différent. Par exemple, « Life in Ohio », qui s'appelait à l'origine « Rose Shop », et « Life in Nevada », qui a porté le nom « Hello India » pendant environ un mois.

Variations extrêmement répétitives sur un même thème

Le contenu publié par les comptes de ce réseau de spam est principalement composé de mèmes générés par des modèles d'images par intelligence artificielle. Ce contenu est extrêmement similaire d'un compte à l'autre, à l'exception de l'État mentionné. Parmi les types de contenu récurrents les plus populaires figurent des images de fermes arborant des pancartes exprimant leur opposition aux importations alimentaires en provenance de Chine. (Exemple : « L’Indiana n’a pas besoin d’acheter de nourriture à la Chine, l’Indiana doit soutenir ses agriculteurs. »)

L'ironie est morte.

Ironie du sort, un autre thème récurrent du contenu du réseau est celui des mèmes anti-IA sur les centres de données, produits par une IA générative. Ces images présentent généralement des vues aériennes de fermes et de plages, avec des messages tels que « Il ne vaut pas la peine de céder un pouce de ce territoire pour un centre de données », inscrits au sol en caractères énormes, parfois accompagnés d'un dessin de l'État où le compte est censé être basé. Dans quelques cas, le message anti-centre de données figure directement sur un panneau.

Qui n'a jamais installé un immense panneau « Bienvenue au Colorado » dans son jardin ?

De nombreux comptes spam publient également des mèmes contre la taxe foncière. Ces publications consistent en une image d'une maison avec un panneau indiquant « La taxe foncière n'a aucun sens sur une maison entièrement payée si nous en sommes les véritables propriétaires », ou des variantes. Beaucoup de ces images incluent également le nom ou le drapeau de l'État supposément associé au compte qui les a publiées. Dans le cas du compte « Colorado Life », cela se traduit par un immense panneau « Bienvenue au Colorado » dans le jardin d'une maison.

INFO : rien de tout cela n'est vrai.

Presque tous les comptes de ce réseau ont publié au moins un message affirmant qu'un grand nombre de séismes venaient d'être signalés dans l'État d'origine supposé du compte. En réalité, l'activité sismique aux États-Unis n'est pas répartie uniformément, et la majorité des séismes du pays se produisent en Californie ou en Alaska, ce qui rend nombre de ces publications extrêmement improbables. Les publications concernant les séismes présentent toutes des cartes indiquant l'emplacement des séismes présumés. Cependant, certaines de ces cartes sont assez inexactes ; par exemple, Traverse City se trouve du mauvais côté du lac Michigan sur la publication en haut à gauche.

Vous n'aviez qu'une seule tâche à accomplir.

Les cartes incorrectes ne sont pas le seul problème des publications de ce réseau. À plusieurs reprises, les administrateurs du réseau semblent avoir oublié à quel compte ils étaient connectés, ce qui a eu pour conséquence qu'une publication concernant l'Indiana est apparue sur la page « Wisconsin Life » et qu'une carte du Maine s'est affichée sur la page « Utah Life ». Plusieurs publications contiennent également des preuves des instructions utilisées pour générer les images et les textes associés, confirmant ainsi l'origine artificielle du contenu.

Bien que ce réseau de spam présente certaines similitudes avec d'autres fermes de contenu générées par IA sur Facebook, comme celles qui publient sans cesse des images de maisons-maisons inexistantes et de repas fictifs, il intègre une dimension politique supplémentaire absente de ces autres opérations de spam. Les thèmes anti-importations chinoises, anti-centres de données et anti-impôts sont omniprésents dans ce groupe de comptes et semblent cibler principalement un public rural. Il sera intéressant d'observer l'évolution de l'activité de ce réseau, si Facebook n'intervient pas pour le démanteler.

L'équipe de vérification et de répression des cyberattaques (CVET) de l'Inspection générale de la police ghanéenne a arrêté 11 personnes, dont des ressortissants nigérians, soupçonnées d'avoir utilisé des vidéos truquées (deepfakes) générées par intelligence artificielle pour usurper l'identité de John Dramani Mahama et commettre des activités frauduleuses en ligne.

Selon des sources policières citées par MyjoyOnline.com, entre le 1er et le 3 mai 2026, la CVET a mené des opérations cybernétiques coordonnées à Sogakope, Dabala, Tongu, Akatsi et Aflao, dans la région de la Volta, aboutissant à l'arrestation de cinq suspects.

Il s'agit de Raphael Ablordeppey (32 ans), Anipah Jonathan (23 ans), Dzamesi Bright Kofi (35 ans), Thomas Ayoyo (17 ans) et Louis Segbawu (18 ans), arrêtés suite à des renseignements concernant un groupe soupçonné de créer et de diffuser des vidéos truquées par intelligence artificielle usurpant l'identité du président.

Une nouvelle opération menée le 4 mai 2026 a permis l'arrestation de six suspects supplémentaires à Aflao, dont cinq Nigérians et un Ghanéen.

Il s'agit de Bishop Esiri (46 ans), Wisdom James (25 ans), Ali Lucky (23 ans), Edwin Edos (22 ans), John Kofi Darlington (20 ans) et Danu Peter (19 ans), identifié comme le Ghanéen du second groupe.

Lors de l'opération, la police a saisi plusieurs éléments, notamment des ordinateurs portables, des téléphones portables, des routeurs internet, 120 cartes SIM pré-enregistrées et une Mercedes-Benz ML 350 immatriculée au Nigéria (Lagos LSR 138HR).

Selon la police, les premières investigations suggèrent que les suspects utilisaient du contenu généré par intelligence artificielle pour usurper l'identité de personnalités et ainsi soutirer de l'argent et des informations personnelles à des internautes non avertis via des plateformes en ligne.

Les enquêteurs pensent également que ce groupe fait partie d'un réseau de cybercriminalité plus vaste, impliqué dans la production et la diffusion de contenus numériques frauduleux à des fins lucratives.

Le mercredi 6 mai 2026, lors de l'audience, neuf des onze suspects ont été placés en détention provisoire et devront comparaître de nouveau le 25 mai 2026. Thomas Ayoyo et Louis Segbawu ont été libérés sous caution, moyennant le dépôt de deux cautions chacun.

21 janvier (Reuters) - Eightfold AI, une plateforme de recrutement par intelligence artificielle financée par du capital-risque et utilisée par Microsoft, PayPal et de nombreuses autres entreprises du Fortune 500, est poursuivie en Californie pour avoir prétendument compilé des rapports servant à présélectionner des candidats à l'insu de ces derniers.

La plainte déposée mardi est la première aux États-Unis à accuser une entreprise de recrutement par IA d'avoir enfreint la loi sur l'information équitable en matière de crédit (Fair Credit Reporting Act), selon les cabinets d'avocats à l'origine de la procédure. Elle illustre comment les associations de consommateurs cherchent à appliquer la législation existante aux systèmes d'IA capables de tirer des conclusions sur les individus à partir d'immenses quantités de données.

La société Eightfold, basée à Santa Clara en Californie, propose des outils censés accélérer le processus de recrutement en évaluant les candidats et en prédisant leur adéquation au poste grâce à l'analyse de données massives issues de CV et d'offres d'emploi en ligne.

Cependant, les candidats postulant auprès d'entreprises utilisant ces outils ne sont ni prévenus ni autorisés à contester les erreurs, affirment Erin Kistler et Sruti Bhaumik dans leur action collective proposée.

De ce fait, elles soutiennent qu'Eightfold a enfreint la loi américaine FCRA (Fair Credit Reporting Act) et une loi californienne garantissant aux consommateurs le droit de consulter et de contester les rapports de solvabilité utilisés pour l'octroi de prêts et l'embauche.

« Ces lois ne prévoient aucune exemption pour l'intelligence artificielle. Or, depuis des décennies, elles constituent un outil essentiel pour protéger les candidats contre les abus de tiers – tels que les sociétés de vérification des antécédents – qui tirent profit de la collecte et de l'évaluation des informations concernant les candidats », ont-elles déclaré dans leur plainte.

Kurt Foeller, porte-parole d'Eightfold, a indiqué que la plateforme fonctionne grâce aux données partagées par les candidats ou fournies par les clients.

« Nous ne collectons pas de données sur les réseaux sociaux ni autres plateformes similaires. Nous sommes profondément attachés à une IA responsable, à la transparence et au respect des lois applicables en matière de protection des données et d'emploi », a déclaré Foeller.

Eightfold est financée par des sociétés de capital-risque, notamment SoftBank Vision Fund et General Catalyst.

Kistler et Bhaumik ont porté plainte devant un tribunal de l'État de Californie au nom de tous les demandeurs d'emploi américains ayant postulé et été évalués à l'aide des outils de l'entreprise. Le cabinet d'avocats spécialisé en droit du travail Outten & Golden et l'association de défense des droits Towards Justice représentent les plaignants.

Selon la plainte, Eightfold crée des profils de candidats incluant des descriptions de personnalité telles que « esprit d'équipe » et « introverti », évalue leur « niveau d'études » et prédit leurs futurs postes et entreprises.

Kistler a postulé auprès de plusieurs entreprises utilisant Eightfold, dont PayPal, et Bhaumik auprès d'entreprises comme Microsoft, selon la plainte. Tous deux sont titulaires d'un diplôme scientifique ou technique et possèdent plus de dix ans d'expérience. Aucun n'a été embauché, et tous deux estiment que les outils d'Eightfold ont joué un rôle dans leur recrutement.

Microsoft et PayPal ne sont pas mis en cause dans cette affaire. Un porte-parole de Microsoft a refusé de commenter. Un porte-parole de PayPal n'a pas répondu immédiatement à notre demande de commentaires.

Selon le site web d'Eightfold, un tiers de ses clients sont des entreprises du classement Fortune 500, dont Salesforce et Bayer. Le Département du Travail de l'État de New York et le Département du Travail et de l'Emploi du Colorado proposent également des plateformes utilisant la technologie Eightfold pour les demandeurs d'emploi.