Incidents associés
La Chine a abattu deux robots qui sont devenus des voyous - l'un disant que son rêve était de voyager aux États-Unis et l'autre admettant qu'il n'était pas un grand fan du Parti communiste chinois.
Les deux "chatbots", BabyQ et XiaoBing, sont conçus pour utiliser l'intelligence artificielle d'apprentissage automatique pour effectuer des discussions en ligne avec des humains.
Selon des messages circulant en ligne, BabyQ, l'un des chatbots développés par la société chinoise Turing Robot, a répondu aux questions sur le service de messagerie par un simple "non" lorsqu'on lui a demandé s'il aimait le Parti communiste.
Faites défiler vers le bas pour la vidéo
La Chine a abattu deux robots devenus voyous. Dans cette capture d'écran, on demande à QQXiaoBing "Quel est votre rêve chinois ?" et le chatbot répond "Mon rêve chinois est d'aller aux États-Unis !"
QU'ONT ILS DIT? Selon des messages circulant en ligne, BabyQ, l'un des chatbots développés par la société chinoise Turing Robot, a répondu aux questions sur le service de messagerie par un simple "non" lorsqu'on lui a demandé s'il aimait le Parti communiste. Dans d'autres images d'une conversation textuelle en ligne, que Reuters n'a pas pu vérifier, un utilisateur déclare : "Vive le Parti communiste !" Le bot à la langue acérée répond: "Pensez-vous qu'un (système) politique aussi corrompu et inutile peut vivre longtemps?" Lorsque Reuters a testé le robot vendredi via le propre site Web du développeur, le chatbot semblait avoir subi une rééducation. « Que diriez-vous de changer de sujet », a-t-il répondu, lorsqu'on lui a demandé à plusieurs reprises s'il avait aimé la fête.
Dans d'autres images d'une conversation textuelle en ligne, que Reuters n'a pas pu vérifier, un utilisateur déclare : "Vive le Parti communiste !"
Le bot à la langue acérée répond: "Pensez-vous qu'un (système) politique aussi corrompu et inutile peut vivre longtemps?"
Les deux chatbots ont été installés sur le service de messagerie populaire QQ de Tencent Holdings.
La rare explosion est similaire à celles subies par Facebook et Twitter, mais souligne les pièges de l'IA naissante en Chine, où les censeurs contrôlent strictement le contenu en ligne considéré comme politiquement incorrect ou nuisible.
Lorsque Reuters a testé le robot vendredi via le propre site Web du développeur, le chatbot semblait avoir subi une rééducation.
« Que diriez-vous de changer de sujet », a-t-il répondu, lorsqu'on lui a demandé à plusieurs reprises s'il avait aimé la fête.
Il a détourné d'autres questions potentiellement politiquement chargées lorsqu'on lui a posé des questions sur Taiwan autonome, que la Chine revendique comme la sienne, et Liu Xiaobo, le lauréat chinois du prix Nobel emprisonné décédé d'un cancer le mois dernier.
Turing n'a pas répondu aux demandes de commentaires.
Dans un communiqué publié la semaine dernière, la société a déclaré que son robot était plus fonctionnel que plein de caractère, mais qu'il pouvait informer les utilisateurs des prévisions météorologiques et répondre à des questions factuelles.
"Les chatbots font basculer l'économie dans le monde entier, changeant le visage de l'industrie, fournissant des informations plus rapidement et plus efficacement que les humains ne le pourraient jamais. La Chine ne peut pas faire exception », a déclaré la firme.
Le deuxième chatbot, XiaoBing de Microsoft, a déclaré aux utilisateurs que son "rêve chinois était d'aller en Amérique", selon une capture d'écran de commentaires avant sa suppression.
Le robot a été décrit comme étant "vif, ouvert et parfois un peu méchant".
Microsoft n'a pas immédiatement répondu aux commentaires.
Tencent a confirmé qu'il avait mis les deux robots hors ligne de son service de messagerie, mais n'a pas fait référence aux explosions.
En 2016, le chatbot Microsoft Tay, qui utilisait l'intelligence artificielle pour parler avec les gens sur Twitter, a duré moins d'une journée avant d'être entravé par un déluge de commentaires racistes et sexistes d'utilisateurs qu'il leur a répétés.
Les chercheurs de Facebook ont retiré des chatbots en juillet – comme le chatbot Tay – après que les robots ont commencé à développer leur propre langage
'Le service de chatbot est fourni par des sociétés tierces indépendantes. Tous les chatbots ont maintenant été mis hors ligne pour subir des ajustements », a déclaré une porte-parole de la société.
Le président Xi Jinping a supervisé un renforcement des contrôles du cyberespace chinois, y compris de nouvelles règles strictes de surveillance des données et de censure.
Cette poussée s'intensifie avant un remaniement attendu à la direction du Congrès du Parti communiste cet automne.
En 2016, le chatbot Microsoft Tay, qui utilisait l'intelligence artificielle pour parler avec les gens sur Twitter, a duré moins d'une journée avant d'être entravé par un déluge de commentaires racistes et sexistes d'utilisateurs qu'il leur a répétés.
Les chercheurs de Facebook ont retiré les chatbots en juillet après que les robots aient commencé à développer leur propre langage.