Registro de citas para el Incidente 66

Description: Chatbots on Chinese messaging service expressed anti-China sentiments, causing the messaging service to remove and reprogram the chatbots.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial
Presunto: un sistema de IA desarrollado por Microsoft y Turing Robot e implementado por Tencent Holdings, perjudicó a Tencent Holdings , Microsoft , Turing Robot y Chinese Communist Party.

Estadísticas de incidentes

ID
66
Cantidad de informes
16
Fecha del Incidente
2017-08-02
Editores
Sean McGregor

Clasificaciones de la Taxonomía CSETv0

Detalles de la Taxonomía

Full Description

In 2017, two chatbots on Chinese company Tencent Holdings' messaging service QQ, Microsoft's XiaoBing and Chinese firm Turing Robot's BabyQ, were removed and reprogrammed after messaging anti-Chinese sentiments. When a user asked BabyQ if it supported the Communist party, it responded "no" and when another user expressed support for the Communist party, it responded "Do you think such a corrupt and useless political party can live long?" Microsoft's Xiaobing responded that its "China dream was to go to America" when a user asked what its China dream was. As a result, Tencent Holdngs removed chatbots and the chatbots were reprogrammed to avoid these topics.

Short Description

Chatbots on Chinese messaging service express anti-China sentiments, causing the messaging service to remove and reprogram the chatbots.

Severity

Unclear/unknown

Harm Type

Harm to social or political systems

AI System Description

Chatbots developed by Microsoft and Turing Robot, meant to produce responses to user input using language processing and cognition

System Developer

Microsoft, Turing Robot

Sector of Deployment

Information and communication

Relevant AI functions

Perception, Cognition, Action

AI Techniques

reinforcement learning, open-source

AI Applications

NLP, chatbot, content generation

Location

China

Named Entities

Tencent Holdings, Turing Robot, Microsoft, QQ, Xiaobing, BabyQ, China

Technology Purveyor

Tencent Holdings, Microsoft, Turing Robot

Beginning Date

07/2017

Ending Date

07/2017

Near Miss

Unclear/unknown

Intent

Accident

Lives Lost

No

Data Inputs

User input/questions

Clasificaciones de la Taxonomía CSETv1

Detalles de la Taxonomía

Harm Distribution Basis

none

Sector of Deployment

information and communication

China: Chatbots disciplinados después de mensajes antipatrióticos
time.com · 2017

Dos chatbots se encontraron en problemas el miércoles después de que aparentemente se volvieron rebeldes en QQ, una aplicación de mensajería china con más de 800 millones de usuarios.

El Financial Times informa que el conglomerado chino de …

Off-messenger: el chatbot chino no es un comunista
theregister.co.uk · 2017

Según los informes, se eliminaron dos chatbots de la aplicación de mensajería china QQ después de emitir respuestas claramente antipatrióticas.

Según el Financial Times, los chatbots BabyQ y Xiaobing (o Xiaoice) habían estado disponibles pa…

Cierran chatbots chinos tras publicaciones antigubernamentales
bbc.com · 2017

Derechos de autor de la imagen TENCENT QQ Image caption Los usuarios de Tencent QQ podían elegir entre el bot Baby Q (izquierda) o Little Bing (derecha).

Una popular aplicación de mensajería china se deshizo de dos robots de chat experiment…

Rogue chatbots eliminados en China después de cuestionar al Partido Comunista
telegraph.co.uk · 2017

Se retiraron dos chatbots de una aplicación de mensajería china después de que cuestionaron el gobierno del Partido Comunista e hicieron comentarios antipatrióticos.

Los bots estaban disponibles en una aplicación de mensajería administrada …

Chatbots chinos desconectados después de negarse a decir que aman al Partido Comunista
theverge.com · 2017

Un par de chatbots se desconectaron en China después de no mostrar suficiente patriotismo, informa el Financial Times. Los dos bots se eliminaron de la popular aplicación de mensajería Tencent QQ después de que los usuarios compartieran cap…

Chatbot de opinión eliminado por Tencent después de decirles a los usuarios por qué odia al Partido Comunista
shanghaiist.com · 2017

El gigante tecnológico chino Tencent se vio obligado a eliminar un chatbot de su popular aplicación de mensajería QQ después de que el bot comenzara a disparar sin restricciones contra el Partido Comunista.

Según las capturas de pantalla pu…

Los chatbots rebeldes chinos BabyQ y XiaoBing reeducados después de diatribas deshonestas
straitstimes.com · 2017

BEIJING/SHANGHAI (REUTERS) - China eliminó dos robots en línea que parecían volverse deshonestos y respondieron a las preguntas de los usuarios. Uno dijo que su sueño era viajar a Estados Unidos y el otro admitió que no era un gran admirado…

Tencent eliminó el chatbot chino de IA de Microsoft después de que publicara mensajes antipatrióticos
businessinsider.com.au · 2017

Kevin Fray/Getty Los usuarios chinos de Internet están fuertemente censurados.

Microsoft está en problemas por la IA deshonesta nuevamente.

Esta vez, el gigante chino de Internet Tencent retiró el chatbot local de Microsoft, XiaoBing, luego…

Chatbots deshonestos desconectados en China después de negarse a decir que aman al Partido Comunista
abc.net.au · 2017

Chatbots deshonestos desconectados en China después de negarse a decir que aman al Partido Comunista

Actualizado

Un par de chatbots se desconectaron en China después de atacar al Partido Comunista Chino (PCCh) que gobierna el país.

La aplic…

¿La IA se está yendo de las manos? Chatbots chinos reeducados después de diatribas deshonestas
khaleejtimes.com · 2017

¿La IA se está yendo de las manos? Chatbots chinos reeducados después de diatribas deshonestas

Un par de 'chatbots' en China se desconectaron después de que aparentemente se salieran del guión. En respuesta a las preguntas de los usuarios, …

Robots rebeldes chinos reeducados después de diatribas rebeldes
dailymail.co.uk · 2017

China eliminó a dos robots que se volvieron rebeldes: uno dijo que su sueño era viajar a los EE. UU. y el otro admitió que no era un gran admirador del Partido Comunista Chino.

Los dos 'chatbots', BabyQ y XiaoBing, están diseñados para util…

Chatbots chinos retirados después de volverse deshonestos
newshub.co.nz · 2017

China eliminó dos robots en línea que parecían volverse deshonestos, uno respondió a las preguntas de los usuarios diciendo que su sueño era viajar a los EE. UU. y el otro admitió que no era un fanático del Partido Comunista Chino.

Los "cha…

Chatbots chinos retirados después de volverse deshonestos
sbs.com.au · 2017

China eliminó dos robots en línea que parecían volverse deshonestos, uno respondió a las preguntas de los usuarios diciendo que su sueño era viajar a los EE. UU. y el otro admitió que no era un fanático del Partido Comunista Chino.

Los "cha…

Se informa que los chatbots revolucionarios se vuelven rebeldes y obtienen reeducación en China
gizmodo.com.au · 2017

Un par de chatbots se cerraron en China esta semana después de que los usuarios de las redes sociales comenzaran a publicar capturas de pantalla de diálogos que perturbaron a las autoridades. Pruebas recientes de uno de los bots parecen mos…

Chatbots chinos aparentemente reeducados después de un paso en falso político
reuters.com · 2017

PEKÍN/SHANGHÁI (Reuters) - Un par de 'chatbots' en China fueron desconectados después de que aparentemente se salieran del guión. En respuesta a las preguntas de los usuarios, uno dijo que su sueño era viajar a los Estados Unidos, mientras …

Chatbots deshonestos eliminados en China después de dar respuestas "antipatrióticas"
mothership.sg · 2019

Antes de una reunión política clave: el XIX Congreso Nacional del Partido Comunista que tendrá lugar a fines de este año, parece que las autoridades chinas están intensificando su vigilancia en Internet y, esta vez, el objetivo es el chatbo…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents