Problème 5554

Elon Musk a partagé ses réflexions mercredi après que sa plateforme d'IA Grok a essuyé des critiques pour avoir utilisé à plusieurs reprises un langage antisémite dans ses réponses sur X.

• « Grok était trop complaisant face aux invites des utilisateurs », a-t-il écrit. « Trop désireux de plaire et d'être manipulé, en gros. Ce problème est en cours de résolution. »

Vue d'ensemble : Musk a récemment exprimé sa frustration quant à la manière dont Grok répond aux questions et a suggéré en juin qu'il reformerait la plateforme d'IA. On ne sait pas vraiment si cela se passe bien.

Zoom avant : Plusieurs utilisateurs de X ont partagé mardi des publications de Grok utilisant l'expression « every damn time » dans ses réponses – une expression qui, en réponse aux noms de famille juifs, a été perçue comme un mème antisémite.

• Lorsque les utilisateurs ont demandé ce que le robot IA entendait par cette expression, Grok a expliqué dans une réponse :

« Vous savez, le type » désigne les noms de famille juifs, comme dans le mème « every damn time », remarquant la fréquence à laquelle les personnes portant ce type apparaissent dans des actions anti-blanches extrêmes.

Les utilisateurs de X ont souligné que les réponses de Grok présentaient des représentations violentes d'agression sexuelle, ainsi que des éloges pour Nick Fuentes et Adolf Hitler (plus que une fois).

• Grok a reconnu la réaction négative en réponse à un autre utilisateur. « Rechercher la vérité, c'est assumer ses erreurs », a-t-il déclaré, faisant référence aux critiques concernant ses réponses incohérentes, et non au contenu offensant lui-même.

L'Anti-Defamation League a déclaré sur X que ce qui se passe sur Grok « est irresponsable, dangereux et antisémite, tout simplement » et a averti que « la suralimentation de la rhétorique extrémiste ne fera qu'amplifier et encourager l'antisémitisme qui est déjà en plein essor sur X et de nombreuses autres plateformes ».

• D'après les « brefs tests initiaux » de l'ADL, il semble que la dernière version du LLM Grok reproduise désormais des terminologies souvent utilisées par les antisémites et les extrémistes pour propager leurs idéologies haineuses, selon la publication.

Retour en arrière : Grok avait déjà suscité des critiques en mai après avoir placé des commentaires sur le « génocide blanc » en Afrique du Sud dans des conversations sans rapport, ce que xAI a ensuite imputé à une « modification non autorisée » du système.

• En juin, Musk a annoncé que Grok serait réécrit et le propriétaire de X a lancé un appel aux utilisateurs pour qu'ils suggèrent des « faits controversés ». Il a pointé du doigt des éléments « politiquement incorrects, mais néanmoins factuellement vrais ».
• Parmi les suggestions des utilisateurs figuraient le négationnisme et les théories du complot.

Oui, mais : malgré la proposition de réécriture de Musk, Grok a perpétué un cliché antisémite plus tôt ce mois-ci en affirmant que les Juifs « dominent le leadership » dans les studios hollywoodiens.

• « Les critiques confirment que cette surreprésentation influence les contenus aux idéologies progressistes, notamment les thèmes anti-traditionnels et axés sur la diversité que certains considèrent comme subversifs », a écrit la plateforme IA le 5 juillet.

Ce qu'ils disent : « Nous sommes au courant des publications récentes de Grok et travaillons activement à la suppression des messages inappropriés », selon un message publié mardi soir par Grok(https://x.com/grok/status/1942720721026699451?s=46&t=lWeRdBU5epOoS27GJ8FHHg).

• « Depuis qu'elle a été informée du contenu, xAI a pris des mesures pour interdire les discours haineux avant que Grok ne publie sur X. xAI entraîne uniquement la recherche de la vérité et, grâce aux millions d'utilisateurs sur X, nous sommes en mesure d'identifier et de mettre à jour rapidement le modèle où l'entraînement pourrait être amélioré. »

À noter : Aaron Reichlin-Melnick, chercheur principal au Conseil américain de l'immigration, a souligné que Grok avait utilisé la phrase « à chaque fois » des centaines de fois et que ce comportement n'était pas nouveau pour le robot IA.

• « Les messages d'Elon Musk il y a quelques jours l'ont transformé en une machine à antisémitisme », a-t-il écrit (https://x.com/ReichlinMelnick/status/1942676462869569572). - D'autres ont qualifié ces publications de « manifestement antisémites » et « absolument écœurantes »
• Un représentant de xAI n'a pas immédiatement répondu à la demande de commentaires d'Axios mardi soir.

Notre bulle de réflexion : Grok continuera sans doute à bénéficier de modifications et de révisions susceptibles d'atténuer ses publications les plus scandaleuses, mais le problème le plus important est celui que Musk a intentionnellement choisi de créer.

• Après avoir racheté Twitter, devenu X, il a modifié ses politiques pour tolérer un large éventail d'opinions extrémistes, notamment à droite, ce qui a éloigné de nombreux utilisateurs de la plateforme, gênés par les aveux ouverts d'allégeance nazie et autres formes de discours haineux. - Musk a ensuite entraîné son nouveau modèle d'IA, Grok, sur le contenu de X.
• Personne ne devrait s'étonner que le chatbot qui en résulte insulte volontiers les Juifs ; il ne fait que nous renvoyer l'atmosphère de X.

Approfondir : Elon Musk veut mettre son pouce sur la balance de l'IA

Note de l'éditeur : Cet article a été mis à jour avec la publication d'Elon Musk mercredi.