Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 6819

Incidents associés

Incident 13295 Rapports
Grok Reportedly Generated and Distributed Nonconsensual Sexualized Images of Adults and Minors in X Replies

Loading...
L'indicible, rendu possible
theatlantic.com · 2026

Chaque fois que je me suis retrouvée sans voix face à l'actualité cette année – ce qui est arrivé de façon déconcertante à maintes reprises –, je suis revenue au même livre pour y trouver des réponses : Down Girl : The Logic of Misogyny de la philosophe Kate Manne, publié en 2017, principalement en réaction à l'élection de Donald Trump. La misogynie, soutient Manne, consiste souvent moins à haïr ouvertement les femmes qu'à contrôler et punir leur comportement.

Elle peut, bien sûr, être une expression des deux. « Putain de salope », a lancé une voix masculine, que beaucoup identifient comme celle de l'agent de l'ICE Jonathan Ross, sur une vidéo la semaine dernière, après que Ross se soit placé devant la voiture de Renee Nicole Good ; après qu'elle lui ait calmement répondu : « Je ne vous en veux pas » ; et après qu'il lui ait tiré dessus au moins trois fois. Good ne semblait pas avoir peur de Ross, alors qu'apparemment, elle aurait dû. Elle n'a pas fait preuve de suffisamment de respect et de déférence envers l'uniforme qu'il portait, envers l'arme qu'il tenait à la main, envers la terreur que l'administration Trump utilise l'ICE pour semer dans tant de communautés américaines. Et c'est pour cela qu'elle est morte.

Non seulement elle est morte, mais sa mort est grotesquement calomniée, d'une manière qui vise à renforcer et à souligner l'ordre patriarcal que des femmes comme Good menacent. « Il y a une sorte de suffisance étrange », a déclaré l'analyste conservateur Will Cain sur Fox News, « dans la façon dont certaines de ces femmes blanches libérales se comportent avec l'autorité. » Good a été, de l'aveu même du président Trump, « très, très irrespectueuse » dans ses échanges avec le policier qui lui a tiré dessus. D'autres personnes, contraintes de réagir à la mort violente et manifestement évitable de cette mère de trois enfants, semblaient s'offusquer du fait qu'elle ait auparavant indiqué ses pronoms, qu'elle soit visiblement queer, et tout simplement qu'elle soit, selon les termes du commentateur de droite Erick Erickson, une AWFUL : une femme blanche urbaine, libérale et aisée.

Si le sexisme repose sur la croyance en la supériorité intrinsèque des hommes sur les femmes, la misogynie, écrit Manne, cible particulièrement les femmes « inconvenantes », les traîtresses à la cause du genre, les mauvaises femmes et les femmes « égarées ». Apparemment, certains considèrent que les trois catégories sont réunies dans la même catégorie. « Vous devez arrêter de nous entraver », a déclaré cette semaine un agent de l'ICE à un militant, selon le Minnesota Reformer cité. « C'est pour ça que cette salope de lesbienne est morte. » Les femmes ne sont en aucun cas la cible principale ni les victimes de l'ICE ; les agents sont habilités à agir avec la plus grande agressivité possible envers toute personne rencontrée. (Trente-deux personnes sont décédées en détention à l'ICE l'année dernière, selon The Guardian, soit le nombre le plus élevé depuis plus de vingt ans.) Mercredi soir, un agent aurait lancé des grenades assourdissantes. AQAAACbQhGWb0eNy3aVnCt3jJzk8S_lTrFp2g2-muZxCFhGJjG4dHlZ9qS95oBJTJB5eMx4e7sYjhy--PgU-V-FP86 s_3IIwpDdrxNPBPTBlrT-AsNVZXWixGHn054jUd7BaJA2qZy8Nq2eB8mqljVLKgGCK9Yu2mk1c8zfnYVt_Hw-4) et Des gaz lacrymogènes ont été utilisés près d'une voiture remplie d'enfants, provoquant le déclenchement des airbags, l'hospitalisation de trois mineurs et un arrêt respiratoire momentané chez un nourrisson présent dans le véhicule, selon la mère de l'enfant. Au cours de l'année écoulée, des vidéos ont montré des agents plaquant des personnes au sol, leur tirant dessus à bout portant avec des munitions dites « non létales », effectuant des descentes dans des garderies et laissant des enfants seuls et sans surveillance après avoir interpellé leurs parents.

Après la mort de Good, son épouse, Becca, a déclaré : « Chrétienne, je savais que toutes les religions enseignent la même vérité essentielle : nous sommes là pour nous aimer, prendre soin les uns des autres et veiller à notre sécurité et à notre intégrité. » Pour son engagement militant, le gouvernement américain l'a qualifiée de terroriste intérieure et a demandé au procureur de Minneapolis d'enquêter sur son épouse. (Six procureurs fédéraux du Minnesota ont par la suite démissionné en signe de protestation.)

La haine et le désir de punir les femmes sont un passe-temps ancestral – l'insulte « putain de salope » m'a sidérée, tant elle était empreinte de haine – mais ce passe-temps est de plus en plus instrumentalisé, voire transformé en loisir. Le 2 janvier, le Guardian a révélé que Grok, le chatbot de xAI, générait des images de femmes et d'enfants « légèrement vêtus », en réponse à des requêtes qui pouvaient transformer n'importe quelle photo de n'importe qui en pornographie non consensuelle. Dans de nombreux pays, y compris aux États-Unis, la publication d'images de mineurs de ce type est illégale. Pourtant, Elon Musk, propriétaire de X, a réagi à la production par Grok d'images sexuellement humiliantes et de contenus pédopornographiques (CSAM) par des émojis riant aux larmes. (xAI a publié : « Nous avons identifié des failles dans nos systèmes de sécurité et nous y remédions de toute urgence – les contenus pédopornographiques sont illégaux et interdits. ») Plus tard, Musk a affirmé que tout pays cherchant à empêcher ce type de harcèlement ritualisé en fermant X bafouerait la liberté d'expression, alors même que la diffusion d'images à caractère sexuel de mineurs a toujours été le type d'expression qui fait quasiment l'unanimité et qui devrait être censurée.

Il est plus qu'évident que les technologies qui nous sont imposées amplifient et favorisent des tendances autrefois indicibles. Ils normalisent les abus et ont déjà normalisé la haine sexiste. Ces pulsions proviennent de la même source que l'impulsion de punir Renee Nicole Good pour avoir protesté, pour avoir refusé de se soumettre à l'autorité patriarcale. Grok, en effet, a généré des images de Good en bikini et des photos d'elle défigurées par des impacts de balles dans les jours qui ont suivi sa mort. L'objectification, écrit Manne, « peut apparemment servir non seulement de punition, mais aussi de moyen de désamorcer la menace psychique que représentent certaines femmes ». Que faire d'une femme irrespectueuse, d'une femme rebelle ? La punir, la déshumaniser pour que tous puissent en tirer des leçons. Que faire d'une femme qui revendique le pouvoir ? Lui rappeler sa place. Il n'est pas surprenant que nombre des premières personnes ciblées par la technologie deepfake de « déshabillage » par IA aient été des femmes en position de pouvoir. Dans son livre de 2025, Le Nouvel Âge du Sexisme, l'écrivaine et militante Laura Bates raconte avoir découvert que son image avait été modifiée en un deepfake pornographique, apparemment en réaction à son travail contre le sexisme. « Même aujourd'hui, je le vis comme une violation », écrit-elle. « Je ressens un mélange de choc, de dégoût, de peur et, oui, de honte chaque fois que je le vois. »

Nous sommes confrontés à un choix : accepter ou non le droit de Musk de transformer son réseau social en la plus grande machine à abus véhiculée par l'IA au monde ; ou bien céder à l'idée que toute femme qui apparaît en ligne ou qui agace un homme risque d'être transformée en une caricature sexuelle grotesque. Comme l'ont écrit mes collègues Charlie Warzel et Matteo Wong (https://www.theatlantic.com/technology/2026/01/elon-musk-cannot-get-away-with-this/685606/), si nous refusons de fixer une limite à l'abus sexuel généré par l'IA, alors aucune limite n'existe. (Depuis, Musk a réagi aux protestations dans certains pays en bloquant soi-disant Grok empêchant ainsi de répondre aux demandes explicites sur X dans certaines régions. Cependant, des journalistes britanniques ont noté que son mode de « déshabillage » continue de fonctionner.)

D'une certaine manière, Grok ne fait que perpétuer les pratiques des nouvelles plateformes technologiques. « Le sexe », affirmait un essai de Wired en 1993, « est un virus qui infecte presque toujours d'abord les nouvelles technologies ». La première vidéo consommée en masse à l'ère d'Internet était une cassette privée de l'une des femmes les plus célèbres au monde, volée par un entrepreneur mécontent et transformée en pornographie non consensuelle. L'un des premiers sites web de Mark Zuckerberg était Facemash, un site qui incitait les étudiants de Harvard à noter l'attractivité des étudiantes. Le « Métavers », l'univers de réalité virtuelle qu'il a bâti pour près de 100 milliards de dollars, a souffert, dès ses débuts, de nombreux cas de harcèlement et d'agressions sexuelles.

Nombre de plateformes qui dominent aujourd'hui notre quotidien sont nées du simple désir de voir les femmes exposées. L'objectification n'est pas un défaut ; c'est une caractéristique. Mais la transformation de Grok en une usine à pornographie non consensuelle est sans précédent par son impudence, son apparente impunité et son ampleur. (Un rapport de 2023 a recensé 95 820 vidéos deepfake circulant en ligne ; Grok génère des milliers d'images « nudisées » par heure.) Cela illustre toutes les manières dont la réalité contemporaine érode les droits et le statut des femmes, avec des conséquences prévisibles. « Le but du propagandiste est de faire oublier à certains groupes de personnes que d'autres groupes de personnes sont humains », écrivait Aldous Huxley dans L'Olivier en 1936. Nous sommes aujourd'hui confrontés à un choix urgent : devons-nous nous soumettre à la haine et aux abus profondément enracinés envers les femmes, érigés en norme technologique et culturelle, ou devons-nous lutter pour une autre voie ?

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd