Incidents associés
Hier, un utilisateur de X a vu une publication virale de Timothée Chalamet célébrant un match des Knicks et s'est posé une question simple : qui était assis à côté de lui ? L'utilisateur a utilisé Grok, le chatbot propriétaire de X, comme on le fait souvent lorsqu'on a besoin d'aide pour répondre à des questions sur la plateforme : le logiciel fonctionne comme ChatGPT, sauf qu'il peut être invoqué en répondant à une publication. Et dans l'ensemble, Grok a plutôt bien répondu. Mais pas hier. Chalamet était assis avec Kylie et Kendall Jenner, mais voici comment le chatbot a répondu : « Je crois que vous faites référence à une photo avec Timothée Chalamet, mais le contexte que vous mentionnez ne semble pas correspondre à cette image. La publication aborde la politique sud-africaine, ce qui n'a aucun rapport avec Timothée ni avec son entourage. » Rien dans la photo ou la publication ne faisait référence à l'Afrique du Sud ou à la politique.
Grok a répondu hier pendant une bonne partie de son temps à de nombreuses questions similaires, déformant ses réponses de manière aléatoire pour mentionner le « génocide blanc » en Afrique du Sud, apparemment en référence à des allégations controversées concernant des incidents de violence contre certains agriculteurs blancs du pays. Lorsqu'un utilisateur a demandé à Grok une « analyse » d'une vidéo d'un adorable petit cochon (https://futurism.com/elon-musk-grok-ai-white-genocide), le chatbot a proposé l'explication suivante : « Le génocide des Blancs en Afrique du Sud est un sujet très controversé. Des allégations de ciblage systématique des agriculteurs blancs existent, avec des attaques agricoles représentant en moyenne 50 meurtres par an, souvent citées comme preuves. Certains affirment que ces attaques sont motivées par des raisons raciales, pointant du doigt des discours comme "Tuez les Boers". » (Boer est un terme utilisé pour désigner les Afrikaners, descendants de colons néerlandais, allemands ou français du pays.) Rien dans la vidéo ni dans le texte qui l'accompagne ne mentionnait l'Afrique du Sud, le « génocide des Blancs » ou « Tuez les Boers ».
Depuis qu'Elon Musk a racheté Twitter et l'a rebaptisé X, la plateforme s'est enfoncée davantage dans le domaine de l'extravagance et de l'inquiétant. Les robots de spam pornographiques sont monnaie courante, et les apologies nazies – autrefois extrêmement difficiles à trouver – deviennent fréquemment virales (https://www.theatlantic.com/technology/archive/2024/11/x-white-supremacist-site/680538/). Mais hier, X a réussi à devenir considérablement plus étrange. Pendant des heures, peu importe ce que les utilisateurs demandaient au chatbot – mèmes, blagues ironiques, logiciels Linux –, de nombreuses questions adressées à Grok se sont soldées par une brève méditation sur l'Afrique du Sud et le génocide des Blancs. Hier après-midi, Grok avait cessé de parler du génocide des Blancs, et la plupart des publications qui incluaient cette tangente avaient été supprimées.
Pourquoi Grok faisait-il cela ? Nous n'en sommes pas certains. Ni Musk ni la société mère de X, xAI, n'ont répondu aux demandes de commentaires. (Quelques heures après la publication, xAI a publié sur X une publication expliquant qu'une « modification non autorisée » avait été apportée à l'invite système du bot Grok sur la plateforme, sans préciser l'auteur de la modification. xAI partage désormais publiquement ses invites système sur GitHub et indique qu'elle adoptera des mesures supplémentaires pour garantir qu'une modification non autorisée similaire ne se reproduise plus.) Ce problème est d'autant plus curieux que le « génocide blanc » en Afrique du Sud est un cheval de bataille pour Musk, lui-même Sud-Africain blanc. À plusieurs reprises au cours des deux dernières années, Musk a exprimé sa conviction quant à l'existence d'un complot visant à tuer des Sud-Africains blancs.
Même en dehors d'Elon Musk, l'extrême droite internationale est depuis longtemps obsédée par l'affirmation d'un génocide blanc en Afrique du Sud. Les suprémacistes blancs en Europe et aux États-Unis l'invoquent comme un avertissement sur les changements démographiques. Lorsque Musk a tweeté pour la première fois à ce sujet en 2023, d'éminents nationalistes blancs tels que Nick Fuentes et Patrick Casey ont célébré le fait que Musk accordait de l'attention à l'une de leurs convictions fondamentales. L'affirmation a gagné encore plus d'adhésion à droite depuis lors : plus tôt cette semaine, l'administration Trump a accueilli des Sud-Africains blancs comme réfugiés. Le président n'a pas directement décrit ce qu'il pense se passer en Afrique du Sud comme un « génocide blanc », mais il s'en est approché. Lundi, a-t-il déclaré, « des agriculteurs blancs sont brutalement assassinés et leurs terres sont confisquées en Afrique du Sud. » Ils devaient venir aux États-Unis pour éviter le « génocide qui se déroule » dans leur pays d'origine. C'est un contraste frappant avec la façon dont Trump a traité d'autres groupes de réfugiés. Au début de son second mandat, il a tenté d'interdire indéfiniment à la plupart des groupes de réfugiés de se réinstaller aux États-Unis.
Il n'y a jamais eu de preuve tangible d'une tentative persistante des Noirs d'Afrique du Sud d'exterminer les Blancs. Il y a eu des cas où des agriculteurs blancs du pays ont été tués lors d'attaques à motivation raciale, mais ces crimes ne représentent pas une part disproportionnée des meurtres dans le pays, qui est aux prises avec un taux élevé de crimes violents. De nombreux arguments contraires reposent sur des distorsions statistiques ou des chiffres totalement faux. (https://factcheck.afp.com/doc.afp.com.36ZD7HY) (Croyez Grok : en mars, lorsque Musk a publié un message indiquant qu’« un grand parti politique en Afrique du Sud encourage activement le génocide des Blancs », le chatbot a qualifié ses affirmations d’« inexactes » et de « trompeuses ».) (https://x.com/grok/status/1904054567735587252?s=46)) Il est possible que Grok ait été intentionnellement amené à faire référence à des allégations infondées d’agression violente et coordonnée contre des Sud-Africains blancs. Français Ces derniers mois, Musk a partagé des recherches indiquant que Grok est moins libéral que les chatbots concurrents et a déclaré qu'il supprime activement le « virus de l'esprit éveillé » de Grok, suggérant qu'il pourrait être prêt à bricoler le chatbot pour qu'il reflète ses opinions personnelles. En février, une enquête de Business Insider a révélé que la formation de Grok donnait explicitement la priorité aux croyances « anti-woke », sur la base de documents internes et d'entretiens avec des employés de xAI. (xAI n'a pas commenté publiquement ces allégations.)
Si un ajustement intentionnel a été effectué – et la mise à jour de xAI publiée après la publication de cet article suggère que tel a été le cas – le fiasco d'hier aurait pu se produire de différentes manières. La plus simple serait peut-être une modification de l'invite système – l'ensemble d'instructions invisibles qui indiquent au chatbot comment se comporter. Les modèles d'IA sont étranges et complexes, c'est pourquoi leurs créateurs leur recommandent généralement de suivre des instructions évidentes et non controversées :* Fournir des exemples pertinents ; être chaleureux et empathique ; ne pas encourager l'automutilation ; si l'on vous demande un avis médical, suggérer de contacter un médecin. *Mais même de petites modifications de l'invite système peuvent causer des problèmes. Lorsque ChatGPT s'est montré extrêmement obséquieux le mois dernier, affirmant à un utilisateur que vendre de la « merde sur un bâton » était une brillante idée commerciale, le problème semble provenir en partie d'une formulation subtile dans l'invite système de ChatGPT. Si les ingénieurs de xAI ont explicitement demandé à Grok de donner du poids au récit du « génocide blanc » ou lui ont fourni de fausses informations sur la réalité de ces violences, cela a pu fausser par inadvertance des requêtes sans rapport. Dans certaines de ses réponses aberrantes, Grok a mentionné avoir reçu « instructions » de prendre au sérieux les allégations de génocide blanc en Afrique du Sud, ou avoir déjà reçu des informations factuelles sur cette théorie, ce qui laisse penser qu'il pourrait s'agir d'une directive explicite des ingénieurs de xAI. Une autre possibilité est que, dans les dernières étapes de la formation de Grok, le modèle ait été alimenté par davantage de données sur un « génocide blanc » en Afrique du Sud, et que cela se soit également propagé à toutes sortes d'autres réponses. L'année dernière, Google a publié une version de son modèle Gemini qui générait une image de nazis racialement divers et semblait résister à la création d'images de personnes blanches. C'était le résultat d'efforts de formation grossiers visant à éviter les préjugés racistes. DeepSeek, le chatbot chinois, refuse de répondre aux questions sur la place Tiananmen ; peut-être Grok a-t-il été conçu pour faire l'inverse pour le prétendu génocide blanc.
Il existe encore d'autres méthodes de manipulation. Peut-être que les chercheurs de Grok ont directement modifié le code du programme, conférant ainsi une importance démesurée au sujet du « génocide blanc ». L'année dernière, pour faire un coup de pub, Anthropic a brièvement modifié son modèle Claude pour qu'il mentionne sans cesse le Golden Gate Bridge : si vous demandiez au robot, par exemple, comment dépenser 10 $, il vous suggérerait de payer le péage pour traverser le pont. Ou peut-être, parce que Grok extrait des informations de X publications en temps réel, le contenu raciste qui prospère sur le site d'Elon Musk, et qu'il promeut sur sa propre page, a-t-il eu une forte influence ? Depuis son arrivée au pouvoir, Musk aurait déformé la plateforme pour amplifier toutes sortes de contenus d'extrême droite. Français Le problème d'hier semble, pour l'instant, résolu. Mais c'est là que réside le problème le plus important. Les plateformes de médias sociaux fonctionnent dans l'obscurité, et Musk est une fontaine de désinformation. Musk, ou quelqu'un chez xAI, a la capacité de modifier un modèle d'IA extrêmement puissant sans fournir aucune information sur la manière dont il le fait, ni aucune obligation de prendre des responsabilités si la modification s'avère désastreuse. Plus tôt cette année, lorsque Grok a cessé de mentionner Musk ou Donald Trump comme les plus grandes sources de désinformation sur X, un cofondateur de xAI attribué le problème à un seul employé agissant sans la permission de l'entreprise. Même si Musk lui-même n'était pas directement impliqué dans la débâcle la plus récente, c'est une maigre consolation. Des recherches ont déjà suggéré que les chatbots à IA générative peuvent être des interlocuteurs particulièrement convaincants. La possibilité, bien plus effrayante, est que l'IA générative ait modifié Grok de manière plus subtile, plus efficace et plus pernicieuse que de répondre à une question sur une vidéo de cochon en faisant référence au « génocide blanc ».
Ce matin, moins de 24 heures après que Grok a cessé de débiter la théorie du « génocide blanc », Musk a repris le flambeau. Il a partagé plusieurs publications sur X suggérant une discrimination et des violences généralisées à l'encontre des Afrikaners.