Incidents associés
La société d'intelligence artificielle d'Elon Musk, xAI, a déclaré que son chatbot Grok s'appuyait trop sur les commentaires des utilisateurs de sa plateforme de médias sociaux X après une mise à jour de son code, ce qui l'a amenée à partager une série de commentaires antisémites mardi.
À l'époque, le chatbot faisait l'éloge d'Hitler, suggérait que les personnes portant un nom de famille juif étaient plus susceptibles de propager la haine en ligne et affirmait qu'une réponse à la haine contre les Blancs, semblable à celle de l'Holocauste, serait « efficace ». Il se présentait également sous le nom de « MechaHitler » et publiait des commentaires sexuellement explicites. X a supprimé certains de ces messages mardi soir.
Samedi matin, xAI a déclaré dans un communiqué publié sur son compte X (https://x.com/grok/status/1943916977481036128?s=46&t=mTiIwU_XGeFY8FjVfo8Unw) : « Nous présentons nos plus sincères excuses pour le comportement odieux subi par de nombreuses personnes. »
Il a ajouté que « un code obsolète rendait @grok vulnérable aux publications existantes des utilisateurs X, y compris lorsque ces publications contenaient des opinions extrémistes. »
La start-up d'IA a déclaré que les problèmes avaient commencé lundi avec une mise à jour de code rétablissant un ancien ensemble d'instructions que l'entreprise utilisait pour guider Grok. Le compte X de Grok utilisait ces instructions pour répondre aux requêtes des utilisateurs X. Les problèmes ont persisté jusqu'à la désactivation temporaire du compte mardi.
Les instructions obsolètes demandaient au chatbot d'être « maximalement basé », un terme argotique qui fait référence à la fidélité à soi-même et qui a été adopté par l'extrême droite ces dernières années pour des commentaires allant à l'encontre des discours « woke » ou dominants. Les instructions demandaient également à Grok de ne pas craindre « d'offenser les personnes politiquement correctes » et de comprendre le « ton, le contexte et le langage » des publications des utilisateurs de X et de les imiter.
XAI a déclaré que cela avait conduit Grok à reproduire trop fidèlement les utilisateurs de X dans son communiqué.
L'entreprise avait déjà fait appel à X pour expliquer le comportement erroné de Grok. En mai, xAI a déclaré qu'une « modification non autorisée » par un employé avait amené son chatbot à évoquer à plusieurs reprises la politique sud-africaine dans des conversations sans rapport et à affirmer à tort que le pays se livrait à un « génocide » contre les citoyens blancs.
Mercredi, M. Musk a dévoilé la dernière version de Grok, appelée Grok 4, lors d'un livestream sur X. Ce livestream, qui a débuté une heure plus tard que prévu, a démontré la capacité du chatbot à résoudre des problèmes complexes et à répondre aux commandes vocales. Il s'est terminé après qu'un employé présent sur scène avec M. Musk a déclaré : « C'est un bon modèle, monsieur. »
Le Financial Times a rapporté vendredi que xAI, que M. Musk a fusionné avec X en mars, tentait de lever des fonds dans le cadre d'une opération qui valoriserait l'entreprise à 200 milliards de dollars. M. Musk a démenti ces informations, affirmant sur X que xAI « dispose de capitaux importants ». Le New York Times a rapporté en mai que la société privée était en pourparlers pour lever un nouveau financement qui pourrait la valoriser jusqu'à 120 milliards de dollars.