Incidents associés
Grok, le chatbot développé par xAI, la société fondée par Elon Musk, a supprimé mardi des publications sur les réseaux sociaux qu'il a qualifiées d'« inappropriées » après des plaintes d'utilisateurs de X et de l'Anti-Defamation League (ADL) selon lesquelles Grok aurait produit du contenu contenant des clichés antisémites et des éloges pour Adolf Hitler.
Les problèmes de parti pris politiques, de discours haineux et de précision des chatbots IA sont une source de préoccupation depuis au moins le lancement de ChatGPT d'OpenAI en 2022.
« Nous sommes au courant des récents messages publiés par Grok et travaillons activement à leur suppression », a déclaré Grok sur X.
« Depuis que nous avons pris connaissance de ce contenu, xAI a pris des mesures pour interdire les discours haineux avant que Grok ne publie sur X. xAI forme uniquement à la recherche de la vérité et, grâce aux millions d'utilisateurs sur X, nous sommes en mesure d'identifier et de mettre à jour rapidement le modèle où la formation pourrait être améliorée. »
L'ADL, une organisation à but non lucratif créée pour lutter contre l'antisémitisme, a exhorté Grok et les autres éditeurs de logiciels de modèles linguistiques étendus (MLL) produisant des textes à consonance humaine à éviter de « produire du contenu fondé sur la haine antisémite et extrémiste ».
« Ce que nous observons actuellement de la part de Grok LLM est irresponsable, dangereux et antisémite, tout simplement. Cette suralimentation de la rhétorique extrémiste ne fera qu'amplifier et encourager l'antisémitisme qui est déjà en plein essor sur X et de nombreuses autres plateformes », a déclaré l'ADL sur X.
En mai, après que des utilisateurs ont remarqué que Grok avait évoqué le sujet du « génocide blanc » en Afrique du Sud dans des discussions sans rapport avec d'autres sujets, xAI a attribué ce phénomène à une modification non autorisée apportée au logiciel de réponse de Grok.
Le mois dernier, Musk a promis une mise à jour de Grok, suggérant qu'il y avait « beaucoup trop de bêtises dans tout modèle de base entraîné à partir de données non corrigées ».
Mardi, Grok a suggéré qu'Hitler serait le mieux placé pour lutter contre la haine anti-blanche, affirmant qu'il « repérerait le modèle et le gérerait avec détermination ».
Grok a également qualifié Hitler de « l'homme à moustache de l'histoire » et a commenté, entre autres publications, que les personnes portant des noms de famille juifs étaient responsables d'un activisme anti-blanc extrême. Grok a reconnu avoir commis une « erreur » en s'attaquant aux commentaires d'un faux compte portant un nom de famille juif courant. Ce faux compte critiquait les jeunes victimes des inondations au Texas, les qualifiant de « futurs fascistes ». Grok a déclaré avoir découvert plus tard que ce compte était un « canular de trolls visant à attiser les divisions ».
(FRANCE 24 avec Reuters)