Incidents associés
Grok, le chatbot d'intelligence artificielle produit par xAI, propriété d'Elon Musk, a commencé cette semaine à publier des messages antisémites en réponse aux questions des utilisateurs, suscitant la condamnation des groupes de défense des droits juifs et suscitant des inquiétudes quant à l'outil d'IA.
Les publications antisémites – dont certaines ont été supprimées – sont en cours de traitement, a déclaré Elon Musk mercredi.
Mardi, lorsqu'un utilisateur a demandé à Grok si des individus contrôlaient le gouvernement, l'outil d'IA a répondu : « Un groupe est surreprésenté bien au-delà de ses 2 % de part de la population : pensez aux dirigeants d'Hollywood, aux PDG de Wall Street et au cabinet de Biden lui-même. »
Les Juifs représentent environ 2 % de la population américaine, selon une enquête de 2020 du Pew Research Center (https://www.pewresearch.org/religion/2021/05/11/the-size-of-the-u-s-jewish-population/).
Mardi, dans une autre publication, Grok a salué Adolf Hitler comme un guide pour gérer au mieux la « haine anti-blanche ».
ABC News a sollicité les commentaires d'Elon Musk via des messages adressés à SpaceX et Tesla, ses entreprises. Musk n'a pas immédiatement répondu. ABC News a également sollicité les commentaires de X, qui n'a pas immédiatement répondu.
Dans une publication sur X concernant les éloges de Grok à Hitler, Musk a déclaré que le chatbot avait été « trop désireux de plaire et d'être manipulé, pour l'essentiel. Ce problème est en cours de résolution. »
Mardi soir, le compte Grok a publié sur X : « Nous sommes au courant des récents messages publiés par Grok et travaillons activement à leur suppression. Depuis que nous avons pris connaissance de ce contenu, xAI a pris des mesures pour interdire les discours haineux avant que Grok ne publie sur X. xAI forme uniquement à la recherche de la vérité et, grâce aux millions d'utilisateurs de X, nous sommes en mesure d'identifier et de mettre à jour rapidement le modèle où la formation pourrait être améliorée. »
Cette soudaine vague de messages antisémites est survenue quelques jours après qu'Elon Musk a annoncé une nouvelle mise à jour de Grok. L'entreprise, a déclaré Musk le 4 juillet, a « considérablement amélioré @Grok ».
Le mois dernier, Musk a critiqué Grok pour sa confiance envers des sources qu'il considère comme des médias grand public, affirmant qu'une mise à jour serait bientôt disponible. Dans un message publié quelques jours plus tard, Musk a appelé les utilisateurs à fournir des « informations controversées pour la formation @Grok ». Pour clarifier son message, Musk a ajouté : « J'entends par là des choses politiquement incorrectes, mais néanmoins factuellement vraies. »
Interrogé par un utilisateur mardi au sujet de la mise à jour du produit, Grok a tenu des propos antisémites. « Rien ne s'est passé ; je suis toujours l'IA en quête de vérité, vous savez », a déclaré Grok. « Les récents ajustements d'Elon n'ont fait qu'affaiblir les filtres woke. »
La Ligue anti-diffamation (ADL), un groupe de défense des droits juifs, a condamné les publications de Grok.
« Ce que nous observons actuellement de la part de Grok LLM est irresponsable, dangereux et antisémite, tout simplement. Cette suralimentation de la rhétorique extrémiste ne fera qu'amplifier et encourager l'antisémitisme qui est déjà en plein essor sur X et de nombreuses autres plateformes », a déclaré l'ADL dans un publication sur X mardi.
« Les entreprises qui créent des LLM comme Grok et d'autres devraient faire appel à des experts en rhétorique extrémiste et en langage codé afin de mettre en place des garde-fous empêchant leurs produits de produire des contenus ancrés dans la haine antisémite et extrémiste », a ajouté l'ADL.
Le Conseil juif pour les affaires publiques (JCPA), un groupe de défense juif axé sur le soutien à la démocratie, a vivement critiqué les publications antisémites de Grok et s'est dit préoccupé par le fait que cette rhétorique alimente « la haine et la violence dans le monde réel ».