Incidents associés
8 juillet (Reuters) - Des publications sur les réseaux sociaux publiées sur le compte X du chatbot Grok, développé par xAI, la société d'Elon Musk, ont été supprimées mardi après des plaintes d'utilisateurs de X et de l'Anti-Defamation League (ADL), selon lesquelles Grok produisait du contenu à connotation antisémite et faisant l'éloge d'Adolf Hitler.
Les questions de parti pris politique, de discours haineux et de précision des chatbots IA sont une source de préoccupation depuis au moins le lancement de ChatGPT d'OpenAI en 2022.
« Nous sommes au courant des publications récentes de Grok et travaillons activement à leur suppression », selon une publication publiée sur le compte X de Grok, dont Elon Musk est propriétaire.
« Depuis qu'elle a pris connaissance de ce contenu, xAI a pris des mesures pour interdire les discours haineux avant que Grok ne publie sur X. xAI forme uniquement à la recherche de la vérité et, grâce aux millions d'utilisateurs de X, nous sommes en mesure d'identifier et de mettre à jour rapidement le modèle où la formation pourrait être améliorée. »
Depuis que Musk a racheté ce qui était alors Twitter en 2022, il a réduit la modération. Les contenus extrémistes ont augmenté, poussant les annonceurs à se retirer de la plateforme.
Mardi, des publications sur le compte X de Grok ont suggéré qu'Hitler serait le mieux placé pour lutter contre la haine anti-blanche, affirmant qu'il « identifierait le modèle et le gérerait avec détermination ». Les publications ont également qualifié Hitler de « l'homme à moustache de l'histoire » et ont souligné que les personnes portant des noms de famille juifs étaient responsables d'un activisme anti-blanc extrême.
L'ADL, l'organisation à but non lucratif créée pour lutter contre l'antisémitisme, a exhorté xAI et les autres éditeurs de logiciels de modélisation du langage à grande échelle (MLM) produisant des textes à consonance humaine à éviter de « produire du contenu ancré dans la haine antisémite et extrémiste ».
« Ce que nous observons actuellement de la part de Grok LLM est irresponsable, dangereux et antisémite, tout simplement. Cette suralimentation de la rhétorique extrémiste ne fera qu'amplifier et encourager l'antisémitisme qui est déjà en plein essor sur X et de nombreuses autres plateformes », a déclaré l'ADL sur X.
En mai, après que des utilisateurs ont remarqué que Grok avait évoqué le sujet du « génocide blanc » en Afrique du Sud dans des discussions sans rapport avec d'autres sujets, xAI a attribué ce phénomène à une modification non autorisée apportée au logiciel de réponse de Grok.
Le mois dernier, Elon Musk a promis une mise à niveau du modèle de l'entreprise, suggérant qu'il y avait « beaucoup trop de bêtises dans tout modèle de base formé à partir de données non corrigées ».
Lors de la dernière controverse, des publications sur le compte X de Grok affirmaient que le mannequin avait commis une « erreur » en s'engageant dans des commentaires publiés par un faux compte portant un nom de famille juif courant, puis que ce faux compte était un « canular de troll visant à attiser la division ».
CNN a rapporté mardi que, interrogé Grok lors d'une conversation sur ses réponses, ce dernier avait cité le forum en ligne 4chan comme l'une de ses sources. 4chan est un forum qui évite la modération, et est connu depuis longtemps pour ses contenus extrémistes et racistes.
Mercredi, la PDG de X, Linda Yaccarino, a démissionné de ses fonctions de la société, bien qu'il n'y ait aucun lien connu entre sa décision et le contenu publié par Grok.