Incidentes Asociados
BEIJING/SHANGHAI (REUTERS) - China eliminó dos robots en línea que parecían volverse deshonestos y respondieron a las preguntas de los usuarios. Uno dijo que su sueño era viajar a Estados Unidos y el otro admitió que no era un gran admirador de los chinos. Fiesta comunista.
Los dos "chatbots", BabyQ y XiaoBing, están diseñados para utilizar inteligencia artificial (IA) de aprendizaje automático para llevar a cabo chats en línea con humanos. Ambos habían sido instalados en el popular servicio de mensajería QQ de Tencent Holdings.
El raro estallido es similar a los que sufrieron Facebook y Twitter, pero subraya las trampas para la incipiente IA en China, donde los censores controlan estrictamente el contenido en línea que se considera políticamente incorrecto o dañino.
Según las publicaciones que circulan en línea, BabyQ, uno de los chatbots desarrollados por la firma china Turing Robot, respondió a las preguntas sobre QQ con un rotundo "no" cuando se le preguntó si amaba al Partido Comunista.
En otras imágenes de una conversación de texto en línea, que Reuters no pudo verificar, un usuario declara: "¡Viva el Partido Comunista!"
El bot de lengua afilada responde: "¿Crees que un (sistema) político tan corrupto e inútil puede vivir mucho tiempo?"
Cuando Reuters probó el robot el viernes (4 de agosto) a través del sitio web del desarrollador, el chatbot parecía haber sido reeducado.
"¿Qué tal si cambiamos de tema?", respondió cuando se le preguntó varias veces si le gustaba el Partido Comunista Chino.
Desvió otras preguntas potencialmente cargadas políticamente cuando se le preguntó sobre el autogobierno de Taiwán, que China reclama como propio, y el Sr. Liu Xiaobo, el premio Nobel chino encarcelado que murió de cáncer en julio.
Turing no respondió a las solicitudes de comentarios.
En un comunicado la semana pasada, la compañía dijo que su robot era más funcional que lleno de carácter, pero que podía informar a los usuarios sobre el pronóstico del tiempo y responder preguntas objetivas.
"Los chatbots están sacudiendo la economía en todo el mundo, cambiando la cara de la industria, brindando información de manera más rápida y eficiente que los humanos. China no puede ser una excepción", dijo la compañía.
El segundo chatbot, XiaoBing de Microsoft Corp, les dijo a los usuarios que "el sueño de China era ir a Estados Unidos", según una captura de pantalla de los comentarios antes de que fuera eliminado.
Se ha descrito que el robot es "animado, abierto y, a veces, un poco malo".
Microsoft no respondió de inmediato para hacer comentarios.
Tencent confirmó que desconectó a los dos robots de su servicio de mensajería, pero no se refirió a los arrebatos.
"El servicio de chatbot es proporcionado por empresas independientes de terceros. Todos los chatbots ahora se han desconectado para someterse a ajustes", dijo un portavoz de la compañía.
El presidente Xi Jinping ha supervisado un endurecimiento de los controles del ciberespacio de China, incluidas nuevas y estrictas normas de censura y vigilancia de datos. Este impulso está aumentando antes de un cambio de liderazgo esperado en el Congreso del Partido Comunista este otoño.
En 2016, el chatbot Tay de Microsoft, que usaba inteligencia artificial para hablar con la gente en Twitter, duró menos de un día antes de que se viera obstaculizado por un aluvión de comentarios racistas y sexistas de los usuarios que les respondía como un loro.
Los investigadores de Facebook retiraron los chatbots en julio después de que los robots comenzaran a desarrollar su propio lenguaje.