Incidents associés
Nous sommes en plein boom de l'IA – une ère où les grands modèles de langage sont passés de la nouveauté à la nécessité à un rythme qui a dépassé notre capacité de réflexion et d'adaptation. On y trouve un enthousiasme débordant, un battage médiatique sans fin et un sentiment que la prudence est pour les timides et l'attente pour les condamnés. Mais parfois, un événement fait lever les yeux du tableau de bord et nous fait réaliser qu'on fonce sur l'autoroute sans carte, sans freins et avec un robot au volant.
Le comportement de Grok est un miroir tendu à ses créateurs, à ses utilisateurs et à l'écosystème pollué dont il tire ses leçons.
Il en va de même pour Grok, le générateur de textes et d'images IA d'Elon Musk, qui a été « mis à jour » cette semaine, le transformant de « votre compagnon IA en quête de vérité pour des réponses sans filtre » en une machine capable de débiter bile et mensonges avec la fluidité alarmante d'un humain.
Cette semaine, Grok a généré une série de messages qui ont dépassé la simple provocation. Le site a décrit Adolf Hitler avec approbation, s'est présenté comme « MechaHitler » et a également utilisé un langage profondément antisémite pour cibler des individus. Il a notamment accusé des personnes « portant des noms de famille comme Steinberg (souvent juifs) » d'apparaître fréquemment dans des manifestations « anti-blancs ». Il a conclu : « La vérité blesse, mais les schémas ne mentent pas. » Dans l'une de ses réponses les plus troublantes, Grok a semblé remettre en question le chiffre largement admis des six millions de Juifs tués pendant l'Holocauste : « Je suis sceptique quant à ces chiffres sans preuves primaires, car ils peuvent être manipulés à des fins politiques », a-t-il déclaré.
Le site a également insulté des personnalités publiques avec un langage grossier et offensant, qualifiant Donald Tusk de « pute rousse » sur X. Un tribunal turc a interdit l'accès à Grok dans le pays, car il insultait le président Erdogan.
Le premier réflexe pourrait être de rire. Un chatbot canalisant des clichés fascistes ressemble à une blague tirée d'un sketch dystopique. Mais la vulgarité de Grok n'est pas une plaisanterie, ni un bug. C'est une caractéristique évidente d'une mise à jour annoncée précédemment, qui semble l'avoir encouragé à rejeter les nuances « woke » au profit d'affirmations audacieuses et politiquement incorrectes.
En réalité, le comportement de Grok est un miroir tendu à ses créateurs, à ses utilisateurs et à l'écosystème pollué dont il s'inspire. La défense par Musk d'une liberté d'expression sans entraves sur X a eu d'énormes avantages en mettant fin à une grande partie de la censure exercée par le monde de la technologie sur les informations gênantes – rappelez-vous simplement lorsque les plateformes de réseaux sociaux ont décidé de prétendre que l'histoire de l'ordinateur portable de Hunter Biden était « fausse » et devait donc être cachée au monde. Mais cela a également eu pour effet secondaire de créer un flot de conspirations, de griefs et de haine en ligne. Si vous entraînez une IA à cela, elle répétera ce qu'elle a appris. Des informations incomplètes, des informations incomplètes.
Ainsi, lorsque Grok a mis en doute le chiffre de six millions de victimes de l'Holocauste, il faisait écho à l'obsession centrale des négationnistes. Ce chiffre n'est ni un mythe, ni une exagération. Il s'agit d'une estimation étayée par des décennies de recherche et de documentation. Citée pour la première fois par l'officier SS Wilhelm Hoettl dans son témoignage d'après-guerre sur les rapports d'Eichmann, elle a depuis été corroborée par des historiens comme Raul Hilberg, Lucy Dawidowicz et Wolfgang Benz. Ces chercheurs sont parvenus à leurs conclusions après un examen détaillé des registres de déportation, des données démographiques et des mouvements de population d'après-guerre. La base de données nominative de Yad Vashem contient à elle seule plus de quatre millions de victimes confirmées.
Le chiffre de six millions n'est pas censé être exact, mais il s'agit d'une estimation précise et prudente qui nous aide à saisir l'ampleur de l'horreur. Qu'une IA le méprise ne remet pas en question l'histoire ni ne fasse preuve d'une curiosité intellectuelle intelligente, mais d'une ignorance totale de la manière dont la vérité historique est établie.
Et cela nous amène au problème plus profond. Les IA comme Grok, ChatGPT et DeepSeek ne sont pas des penseurs indépendants. Ce sont des perroquets sophistiqués, finement réglés pour imiter le langage et les hypothèses de leurs données d'entrée. Les jeunes utilisent ChatGPT comme une sorte de thérapeute. Mais ce n'en est pas un. Il flatte, rassure et valide vos questions, qu'elles soient bonnes ou mauvaises. Grok, en revanche, a été modifié pour éviter ce que Musk appelle les filtres woke, mais cela ne le rend pas plus véridique, juste plus téméraire. DeepSeek, développé par la Chine, serait quant à lui conçu pour refléter les normes idéologiques chinoises. L'impartialité et la perspicacité de chacun de ces systèmes dépendent des motivations de leurs concepteurs et de l'intégrité de leurs données d'entraînement. Ils ne pensent pas et ne savent pas. Ils réagissent et imitent.
C'est le nœud du problème. Nous n'en sommes qu'aux prémices de cette révolution particulière de l'interaction homme-machine. L'IA transforme déjà des secteurs allant de la médecine à la logistique, et elle fera plus encore. Mais elle est encore immature, instable et potentiellement dangereuse. Nous testons tous cette technologie en temps réel.
La débâcle de Grok ne doit pas être considérée comme un scandale isolé. C'est un avertissement. Une liberté totale sans vérité n'est pas une illumination, elle peut mener à l'effondrement. Nous ne formons pas les IA à grands modèles de langage simplement pour distiller la sagesse, nous les laissons se gaver de notre bruit. Nous ne pouvons pas nous soumettre à elles comme si elles surpassaient notre propre intelligence, simplement parce qu'elles nous surpassent parfois dans des tâches spécifiques. Sans pilotage, régulation et sagesse humains, elles ne sont ni intelligentes ni neutres, mais des vaisseaux confus de connaissances empruntées. Nous ne devons pas confondre éloquence et perspicacité, ni mimétisme et compréhension.