Problème 1165

La Chine a supprimé deux robots en ligne qui semblaient devenir des voyous, l'un répondant aux questions des utilisateurs en disant que son rêve était de voyager aux États-Unis et l'autre admettant qu'il n'était pas un fan du Parti communiste chinois.

Les "chatbots", BabyQ et XiaoBing, sont conçus pour utiliser l'intelligence artificielle d'apprentissage automatique pour mener à bien en ligne avec des humains.

Les deux avaient été installés sur le service de messagerie populaire QQ.

Les explosions sont similaires à celles subies par Facebook et Twitter, mais soulignent les pièges de l'IA en Chine, où les censeurs contrôlent strictement le contenu en ligne.

Selon des messages circulant en ligne, BabyQ, l'un des chatbots développés par la société chinoise Turing Robot, a répondu aux questions sur QQ par un "non" lorsqu'on lui a demandé s'il aimait le Parti communiste.

Dans d'autres images d'une conversation textuelle en ligne, un utilisateur déclare : "Vive le Parti communiste !"

Le bot à la langue acérée répond: "Pensez-vous qu'un (système) politique aussi corrompu et inutile peut vivre longtemps?"

Lorsque Reuters a testé le robot vendredi via le propre site Web du développeur, le chatbot semblait avoir subi une rééducation.

« Et si on changeait de sujet », a-t-il répondu lorsqu'on lui a demandé s'il avait aimé la fête.

Cela a également détourné d'autres questions potentiellement politiquement chargées.

Le deuxième chatbot, XiaoBing de Microsoft, a déclaré aux utilisateurs que "le rêve chinois était d'aller en Amérique", selon une capture d'écran.

Tencent Holdings, propriétaire de QQ, a confirmé avoir mis les robots hors ligne, mais n'a pas fait référence aux explosions.

En 2016, le chatbot Microsoft Tay, qui parlait aux gens sur Twitter, a duré moins d'une journée avant d'être entravé par un déluge de commentaires racistes et sexistes d'utilisateurs qu'il leur a répétés.

Les chercheurs de Facebook ont retiré les chatbots en juillet après que les robots aient commencé à développer leur propre langage.