Incidents associés
L'IA devient incontrôlable ? Les chatbots chinois rééduqués après des coups de gueule voyous
Une paire de "chatbots" en Chine a été mise hors ligne après avoir semblé s'éloigner du script. En réponse aux questions des utilisateurs, l'un a déclaré que son rêve était de voyager aux États-Unis, tandis que l'autre a déclaré qu'il n'était pas un grand fan du Parti communiste chinois.
Les deux chatbots, BabyQ et XiaoBing, sont conçus pour utiliser l'intelligence artificielle (IA) d'apprentissage automatique pour mener des conversations avec des humains en ligne. Les deux avaient été installés sur le service de messagerie populaire QQ de Tencent Holdings Ltd.
Les indiscrétions sont similaires à celles subies par Facebook et Twitter, où les chatbots ont utilisé des jurons et ont même créé leur propre langage. Mais ils mettent également en évidence les pièges de l'IA naissante en Chine, où les censeurs contrôlent le contenu en ligne considéré comme politiquement incorrect ou nuisible. Tencent a confirmé qu'il avait mis les deux robots hors ligne de son service de messagerie QQ, mais a refusé d'en préciser les raisons.
"Le service de chatbot est fourni par des sociétés tierces indépendantes. Les deux chatbots ont maintenant été mis hors ligne pour subir des ajustements", a déclaré plus tôt une porte-parole de la société.
Selon des messages circulant en ligne, BabyQ, l'un des chatbots développés par la société chinoise Turing Robot, avait répondu aux questions sur QQ par un simple "non" lorsqu'on lui avait demandé s'il aimait le Parti communiste.
Lorsque Reuters a testé le robot vendredi via le propre site Web du développeur, le chatbot semblait avoir subi une rééducation. « Et si on changeait de sujet », a-t-il répondu, lorsqu'on lui a demandé à plusieurs reprises s'il avait aimé la fête.
Il a détourné d'autres questions potentiellement politiquement chargées lorsqu'on lui a posé des questions sur Taiwan autonome, que la Chine revendique comme la sienne, et Liu Xiaobo, le lauréat chinois du prix Nobel emprisonné décédé d'un cancer le mois dernier. Turing Robot n'a pas répondu aux demandes de commentaires.
La position du gouvernement chinois est que les règles régissant le cyberespace devraient imiter les contrôles aux frontières du monde réel et être soumises aux mêmes lois que les États souverains.
Le président Xi Jinping a supervisé un resserrement des contrôles du cyberespace, y compris de nouvelles règles de surveillance des données et de censure, en particulier avant un remaniement attendu de la direction au Congrès du Parti communiste cet automne.
L'administrateur du cyberespace du pays n'a pas répondu à une demande de commentaire.
Le deuxième chatbot, XiaoBing de Microsoft Corp, a déclaré aux utilisateurs que son "rêve est d'aller en Amérique", selon une capture d'écran. Le robot a précédemment été décrit comme étant "vif, ouvert et parfois un peu méchant".
Microsoft n'a pas immédiatement répondu aux commentaires.
Une version du chatbot accessible sur l'application de messagerie distincte de Tencent, WeChat, a répondu vendredi soir aux questions sur la politique chinoise en disant qu'il était "trop jeune pour comprendre". Interrogé sur Taiwan, il a répondu: "Quelles sont vos sombres intentions?"
Sur les questions générales sur la Chine, c'était plus rose. Interrogé sur la population du pays, plutôt que de donner un chiffre, il a répondu: "La nation que j'aime le plus profondément."
Les deux chatbots ne sont pas les seuls à devenir voyous. Les chercheurs de Facebook ont retiré les chatbots en juillet après avoir commencé à développer leur propre langage. En 2016, le chatbot Microsoft Tay a été retiré de Twitter après avoir fait des commentaires racistes et sexistes.
Partager
Plus >
Voter
Cliquez/appuyez ici pour vous abonner aux alertes d'actualités du Khaleej Times sur WhatsApp. Assurez-vous d'enregistrer le numéro de téléphone sous Contacts sur votre téléphone pour un service ininterrompu.
ERREUR : La macro /ads/dfp-ad-article-new est manquante !