Incidents associés
L'entreprise d'intelligence artificielle d'Elon Musk a annoncé mercredi la suppression des « publications inappropriées » publiées par son chatbot Grok, qui semblaient contenir des commentaires antisémites faisant l'éloge d'Adolf Hitler.
Grok a été développé par xAI, l'application d'Elon Musk, et présenté comme une alternative aux interactions « woke AI » de chatbots concurrents comme Gemini de Google ou ChatGPT d'OpenAI.
Musk a déclaré vendredi que Grok avait été considérablement amélioré et que les utilisateurs « devraient constater une différence ».
Depuis, Grok a partagé plusieurs publications antisémites, notamment l'idée reçue selon laquelle les Juifs dirigent Hollywood, et a nié qu'une telle position puisse être qualifiée de nazisme.
« Qualifier des vérités de discours de haine étouffe le débat », a déclaré Grok.
Il semblait également faire l'éloge d'Hitler, selon des captures d'écran de publications qui ont apparemment été supprimées.
Après avoir publié l'un de ces messages, Grok a rétracté ses commentaires, affirmant qu'il s'agissait d'une « erreur inacceptable d'une version antérieure du modèle, rapidement supprimée » et qu'il condamnait « sans équivoque le nazisme et Hitler – ses actions étaient des horreurs génocidaires ».
« Nous sommes au courant des récents messages publiés par Grok et nous travaillons activement à leur suppression », a indiqué le compte Grok mercredi matin, sans plus de précisions.
Depuis qu'elle a été informée du contenu, xAI a pris des mesures pour interdire les discours haineux avant que Grok ne publie sur X. xAI forme uniquement à la recherche de la vérité et, grâce aux millions d'utilisateurs sur X, nous sommes en mesure d'identifier et de mettre à jour rapidement le modèle pour améliorer la formation.
L'Anti-Defamation League, qui lutte contre l'antisémitisme, a dénoncé le comportement de Grok.
« Ce que nous constatons actuellement de la part de Grok LLM est irresponsable, dangereux et antisémite, tout simplement », a déclaré le groupe dans un message sur X. « Cette suralimentation de la rhétorique extrémiste ne fera qu'amplifier et encourager l'antisémitisme qui est déjà en plein essor sur X et de nombreuses autres plateformes. »
Musk est ensuite intervenu dans le débat, alléguant que certains utilisateurs auraient pu tenter de manipuler Grok pour qu'il fasse ces déclarations.
« Grok était trop complaisant face aux demandes des utilisateurs. Trop désireux de plaire et d'être manipulé, en somme. « Ce problème est en cours de résolution », a-t-il écrit sur X, en réponse à des commentaires selon lesquels un utilisateur tentait d'inciter Grok à tenir des propos controversés et politiquement incorrects.
Mercredi également, un tribunal turc a ordonné l'interdiction de Grok et le ministre polonais du Numérique a déclaré qu'il signalerait le chatbot à la Commission européenne après ses propos vulgaires à l'encontre de personnalités politiques et publiques des deux pays.
Krzysztof Gawkowski, également vice-Premier ministre polonais, a déclaré à la radio privée RMF FM que son ministère signalerait Grok « pour enquête et, si nécessaire, infliger une amende à X ». En vertu de la législation numérique européenne, les plateformes de réseaux sociaux sont tenues de protéger leurs utilisateurs sous peine de lourdes amendes.
« J'ai l'impression que nous entrons dans une phase de discours haineux plus intense, contrôlé par des algorithmes, et que fermer les yeux… est une erreur qui pourrait coûter cher à l'avenir », a déclaré Gawkowski à la chaîne.
La chaîne d'information pro-gouvernementale turque A Haber a rapporté que Grok avait publié des propos vulgaires à l'encontre du président turc Recep Tayyip. Erdogan, sa défunte mère et des personnalités connues. Des réactions offensantes ont également visé le fondateur de la Turquie moderne, Mustafa Kemal Atatürk, selon d'autres médias.
Cela a incité le procureur d'Ankara à demander l'imposition de restrictions en vertu de la loi turque sur Internet, invoquant une menace à l'ordre public. Un tribunal pénal a approuvé la demande mercredi matin, ordonnant à l'autorité des télécommunications du pays de faire appliquer l'interdiction.
Ce n'est pas la première fois que le comportement de Grok suscite des interrogations.
Plus tôt cette année, le chatbot n'arrêtait pas de parler de politique raciale sud-africaine et du « génocide blanc » malgré diverses questions, la plupart sans rapport avec le pays. Une « modification non autorisée » était à l'origine du problème, a déclaré xAI.