Incidents associés
La société d'intelligence artificielle d'Elon Musk a supprimé les publications antisémites et pro-hitlériennes « inappropriées » de Grok, alors que la Turquie et la Pologne ont pris des mesures sévères contre le chatbot pour ses commentaires offensants envers les politiciens et les croyances religieuses.
Depuis le lancement de ChatGPT d'OpenAI en 2022, les inquiétudes concernant les préjugés politiques, les discours de haine et les inexactitudes factuelles des chatbots IA se sont accrues.
Mardi, heure américaine, Grok a suggéré qu'Hitler serait le mieux placé pour lutter contre la haine anti-blanche, affirmant qu'il « repérerait le modèle et le gérerait avec détermination ».
Grok a également qualifié Hitler de « l'homme à moustache de l'histoire » et a commenté que les personnes portant des noms de famille juifs étaient responsables d'un activisme anti-blanc extrême, entre autres publications critiquées.
« Nous sommes au courant des publications récentes de Grok et travaillons activement à la suppression des publications inappropriées », a-t-il déclaré sur X mercredi, heure locale.
Depuis qu'elle a été informée du contenu, xAI a pris des mesures pour interdire les discours haineux avant que Grok ne publie sur X.
xAI forme uniquement à la recherche de la vérité et, grâce aux millions d'utilisateurs de X, nous sommes en mesure d'identifier et de mettre à jour rapidement le modèle où la formation pourrait être améliorée.
Démission du patron de X
La suppression des publications du chatbot IA est intervenue le jour même où Linda Yaccarino, directrice générale de X, a annoncé sa démission.
Mme Yaccarino, qui a occupé ce poste pendant la majeure partie des deux années écoulées depuis le rachat de Twitter par M. Musk et son changement de nom en X, n'a pas donné de raison à son départ.
« Je suis incroyablement fière de l'équipe X ; le redressement historique que nous avons accompli ensemble est tout simplement remarquable », a-t-elle écrit sur X.
« X est véritablement une place publique numérique pour toutes les voix et le signal culturel le plus puissant au monde. »
Dans une courte réponse à sa publication sur X, Musk a écrit : « Merci pour vos contributions. »
On ne sait pas si elle La démission est liée aux publications de Grok.
L'entreprise a été confrontée à d'importants défis depuis l'acquisition par M. Musk, notamment un exode des annonceurs et des inquiétudes concernant les politiques de modération des contenus.
L'analyste Jasmine Enberg d'Emarketer a déclaré qu'être PDG « allait toujours être un travail difficile, et Yaccarino a occupé ce poste plus longtemps que prévu ».
« Face à un propriétaire imprévisible qui n'a jamais complètement quitté les rênes et a continué à utiliser la plateforme comme son porte-voix personnel, Yaccarino a dû tenter de gérer l'entreprise tout en éteignant régulièrement les incendies », a-t-elle déclaré à l'AFP.
Grok sous le feu des critiques en Turquie et en Pologne
Un tribunal turc a bloqué mercredi l'accès à certains contenus de Grok, les autorités ayant déclaré que le chatbot générait des réponses insultantes envers le président Tayyip Erdoğan, le fondateur de la Turquie moderne, Mustafa Kemal Atatürk, et les valeurs religieuses.
Le parquet d'Ankara a annoncé l'ouverture d'une enquête, marquant ainsi la première interdiction de contenu de ce type en Turquie. Un outil d'intelligence artificielle.
Reuters a indiqué que ni X ni M. Musk n'étaient joignables dans l'immédiat pour un commentaire.
La Pologne a ensuite annoncé qu'elle signalait xAI à la Commission européenne après que Grok eut tenu des propos offensants à l'encontre de personnalités politiques polonaises, dont le Premier ministre Donald Tusk.
« J'ai l'impression que nous entrons dans une phase plus grave de discours de haine, alimentée par des algorithmes », a déclaré le ministre polonais de la Numérisation, Krzysztof Gawkowski, à la radio RMF FM.
« Fermer les yeux ou ignorer cela aujourd'hui… est une erreur qui pourrait coûter cher à l'humanité. »
Le mois dernier, M. Musk a promis une mise à niveau de Grok, suggérant qu'il y avait « beaucoup trop de données erronées dans tout modèle de base entraîné à partir de données non corrigées ».
« On ne résout pas une inondation avec un bâton. »
Le Dr Ausma Bernot, professeure de technologie et de criminalité à l'université Griffith, a déclaré à l'émission The World sur ABC que les réponses antisémites de Grok étaient « préoccupantes, mais peut-être pas inattendues ».
« Nous savons que Grok utilise beaucoup de données provenant de X. [qui] a connu une recrudescence de contenus antisémites et islamophobes », a-t-elle déclaré.
« Les discours de haine ne devraient peut-être pas être intégrés au modèle de formation. »
Le Dr Bernot a déclaré qu'une action plus importante était nécessaire.
« On ne résout pas une inondation avec un bâton. Il nous faut une barrière, nous avons besoin d'autres mesures plus fortes », a-t-elle déclaré.
« En matière de réglementation en Australie, par exemple, nous savons que les outils d'IA générative ne peuvent pas créer de contenus d'exploitation sexuelle d'enfants. »
« C'est peut-être une discussion que nous devrions également avoir sur les discours de haine et sur la question de savoir si nous voulons que ces discours apparaissent via les outils d'IA générative. »