Journal des citations pour l'incident 66

Description: Chatbots on Chinese messaging service expressed anti-China sentiments, causing the messaging service to remove and reprogram the chatbots.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique
Présumé : un système d'IA développé par Microsoft and Turing Robot et mis en œuvre par Tencent Holdings, endommagé Tencent Holdings , Microsoft , Turing Robot and Chinese Communist Party.

Statistiques d'incidents

ID
66
Nombre de rapports
16
Date de l'incident
2017-08-02
Editeurs
Sean McGregor

Classifications de taxonomie CSETv0

Détails de la taxonomie

Full Description

In 2017, two chatbots on Chinese company Tencent Holdings' messaging service QQ, Microsoft's XiaoBing and Chinese firm Turing Robot's BabyQ, were removed and reprogrammed after messaging anti-Chinese sentiments. When a user asked BabyQ if it supported the Communist party, it responded "no" and when another user expressed support for the Communist party, it responded "Do you think such a corrupt and useless political party can live long?" Microsoft's Xiaobing responded that its "China dream was to go to America" when a user asked what its China dream was. As a result, Tencent Holdngs removed chatbots and the chatbots were reprogrammed to avoid these topics.

Short Description

Chatbots on Chinese messaging service express anti-China sentiments, causing the messaging service to remove and reprogram the chatbots.

Severity

Unclear/unknown

Harm Type

Harm to social or political systems

AI System Description

Chatbots developed by Microsoft and Turing Robot, meant to produce responses to user input using language processing and cognition

System Developer

Microsoft, Turing Robot

Sector of Deployment

Information and communication

Relevant AI functions

Perception, Cognition, Action

AI Techniques

reinforcement learning, open-source

AI Applications

NLP, chatbot, content generation

Location

China

Named Entities

Tencent Holdings, Turing Robot, Microsoft, QQ, Xiaobing, BabyQ, China

Technology Purveyor

Tencent Holdings, Microsoft, Turing Robot

Beginning Date

07/2017

Ending Date

07/2017

Near Miss

Unclear/unknown

Intent

Accident

Lives Lost

No

Data Inputs

User input/questions

Classifications de taxonomie CSETv1

Détails de la taxonomie

Harm Distribution Basis

none

Sector of Deployment

information and communication

Chine : les chatbots disciplinés après des messages antipatriotiques
time.com · 2017

Deux chatbots se sont retrouvés dans l'eau chaude mercredi après être apparemment devenus des voyous sur QQ, une application de messagerie chinoise avec plus de 800 millions d'utilisateurs.

Le Financial Times rapporte que le conglomérat Int…

Off-messenger : le chatbot chinois n'est pas un coco
theregister.co.uk · 2017

Deux chatbots auraient été supprimés de l'application de messagerie chinoise QQ après avoir émis des réponses clairement antipatriotiques.

Selon le Financial Times, les chatbots BabyQ et Xiaobing (ou Xiaoice) étaient disponibles pour certai…

Les chatbots chinois fermés après des messages antigouvernementaux
bbc.com · 2017

Copyright de l'image TENCENT QQ Image caption Les utilisateurs de Tencent QQ pouvaient choisir entre le bot Baby Q (L) ou Little Bing (R)

Une application de messagerie chinoise populaire a abandonné deux robots de discussion expérimentaux, …

Des chatbots voyous supprimés en Chine après avoir interrogé le Parti communiste
telegraph.co.uk · 2017

Deux chatbots ont été retirés d'une application de messagerie chinoise après avoir remis en question la règle du Parti communiste et fait des commentaires antipatriotiques.

Les bots étaient disponibles sur une application de messagerie géré…

Des chatbots chinois mis hors ligne après avoir refusé de dire qu'ils aiment le Parti communiste
theverge.com · 2017

Une paire de chatbots a été mise hors ligne en Chine après avoir échoué à faire preuve de suffisamment de patriotisme, rapporte le Financial Times. Les deux robots ont été supprimés de l'application de messagerie populaire Tencent QQ après …

Le chatbot d'opinion supprimé par Tencent après avoir expliqué aux utilisateurs pourquoi il déteste le Parti communiste
shanghaiist.com · 2017

Le géant chinois de la technologie Tencent a été contraint de supprimer un chatbot de sa populaire application de messagerie QQ après que le bot a commencé à tirer sans retenue sur le Parti communiste.

Selon des captures d'écran publiées en…

Les chatbots rebelles chinois BabyQ et XiaoBing rééduqués après des diatribes voyous
straitstimes.com · 2017

BEIJING/SHANGHAI (REUTERS) - La Chine a supprimé deux robots en ligne qui semblaient devenir des voyous, répondant aux questions des utilisateurs, l'un disant que son rêve était de voyager aux États-Unis et l'autre admettant qu'il n'était p…

Tencent a supprimé le chatbot IA chinois de Microsoft après avoir publié des messages antipatriotiques
businessinsider.com.au · 2017

Kevin Fray/Getty Les internautes chinois sont fortement censurés.

Microsoft est à nouveau en difficulté pour l'IA voyou.

Cette fois, le géant chinois de l'internet Tencent a retiré le chatbot local de Microsoft XiaoBing après qu'il aurait d…

Des chatbots voyous mis hors ligne en Chine après avoir refusé de dire qu'ils aiment le parti communiste
abc.net.au · 2017

Des chatbots voyous mis hors ligne en Chine après avoir refusé de dire qu'ils aiment le parti communiste

Actualisé

Une paire de chatbots a été mise hors ligne en Chine après s'être retournée contre le Parti communiste chinois (PCC) au pouvo…

L'IA devient incontrôlable ? Les chatbots chinois rééduqués après des coups de gueule voyous
khaleejtimes.com · 2017

L'IA devient incontrôlable ? Les chatbots chinois rééduqués après des coups de gueule voyous

Une paire de "chatbots" en Chine a été mise hors ligne après avoir semblé s'éloigner du script. En réponse aux questions des utilisateurs, l'un a d…

Des robots rebelles chinois rééduqués après des coups de gueule voyous
dailymail.co.uk · 2017

La Chine a abattu deux robots qui sont devenus des voyous - l'un disant que son rêve était de voyager aux États-Unis et l'autre admettant qu'il n'était pas un grand fan du Parti communiste chinois.

Les deux "chatbots", BabyQ et XiaoBing, so…

Les chatbots chinois retirés après être devenus voyous
newshub.co.nz · 2017

La Chine a supprimé deux robots en ligne qui semblaient devenir des voyous, l'un répondant aux questions des utilisateurs en disant que son rêve était de voyager aux États-Unis et l'autre admettant qu'il n'était pas un fan du Parti communis…

Les chatbots chinois retirés après être devenus voyous
sbs.com.au · 2017

La Chine a supprimé deux robots en ligne qui semblaient devenir des voyous, l'un répondant aux questions des utilisateurs en disant que son rêve était de voyager aux États-Unis et l'autre admettant qu'il n'était pas un fan du Parti communis…

Des chatbots révolutionnaires seraient devenus voyous et auraient été rééduqués en Chine
gizmodo.com.au · 2017

Une paire de chatbots a été fermée en Chine cette semaine après que les utilisateurs des médias sociaux ont commencé à publier des captures d'écran de dialogues qui ont ébouriffé les plumes des autorités. Des tests récents de l'un des robot…

Les chatbots chinois apparemment rééduqués après un faux pas politique
reuters.com · 2017

BEIJING / SHANGHAI (Reuters) – Une paire de "chatbots" en Chine a été mise hors ligne après avoir semblé s'éloigner du script. En réponse aux questions des utilisateurs, l'un a déclaré que son rêve était de voyager aux États-Unis, tandis qu…

Des chatbots voyous supprimés en Chine après avoir donné des réponses « antipatriotiques »
mothership.sg · 2019

Avant une réunion politique clé - le 19e Congrès national du Parti communiste qui aura lieu à la fin de cette année, il semble que les autorités chinoises intensifient leur police d'Internet, et cette fois, la cible est le chatbot .

La supp…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents