Incidentes Asociados
PEKÍN/SHANGHÁI (Reuters) - Un par de 'chatbots' en China fueron desconectados después de que aparentemente se salieran del guión. En respuesta a las preguntas de los usuarios, uno dijo que su sueño era viajar a los Estados Unidos, mientras que el otro dijo que no era un gran admirador del Partido Comunista Chino.
Los dos chatbots, BabyQ y XiaoBing, están diseñados para utilizar inteligencia artificial (IA) de aprendizaje automático para llevar a cabo conversaciones con humanos en línea. Ambos habían sido instalados en el popular servicio de mensajería QQ de Tencent Holdings Ltd.
Las indiscreciones son similares a las sufridas por Facebook Inc y Twitter Inc, donde los chatbots usaron palabrotas e incluso crearon su propio lenguaje. Pero también destacan las trampas para la incipiente IA en China, donde los censores controlan el contenido en línea que se considera políticamente incorrecto o dañino.
Tencent confirmó que desconectó a los dos robots de su servicio de mensajería QQ, pero se negó a explicar los motivos.
“El servicio de chatbot es proporcionado por empresas independientes de terceros. Ambos chatbots ahora se han desconectado para someterse a ajustes”, dijo anteriormente una portavoz de la compañía.
Según las publicaciones que circulan en línea, BabyQ, uno de los chatbots desarrollados por la firma china Turing Robot, respondió a las preguntas sobre QQ con un simple "no" cuando se le preguntó si amaba al Partido Comunista.
En otras imágenes de una conversación de texto en línea, que Reuters no pudo verificar, un usuario declara: "¡Viva el Partido Comunista!" El bot responde: "¿Crees que un sistema político tan corrupto e inútil puede vivir mucho tiempo?"
Cuando Reuters probó el robot el viernes a través del sitio web del desarrollador, el chatbot parecía haber sido reeducado. “¿Qué tal si cambiamos de tema?”, respondió cuando le preguntaron varias veces si le gustó la fiesta.
Desvió otras preguntas potencialmente cargadas políticamente cuando se le preguntó sobre el autogobierno de Taiwán, que China reclama como propio, y Liu Xiaobo, el premio Nobel chino encarcelado que murió de cáncer el mes pasado.
Turing Robot no respondió a las solicitudes de comentarios.
“INTENCIONES OSCURAS”
La postura del gobierno chino es que las reglas que rigen el ciberespacio deben imitar los controles fronterizos del mundo real y estar sujetas a las mismas leyes que los estados soberanos.
El presidente Xi Jinping supervisó un endurecimiento de los controles del ciberespacio, incluidas nuevas reglas de censura y vigilancia de datos, particularmente antes de un esperado cambio de liderazgo en el Congreso del Partido Comunista este otoño.
El administrador del ciberespacio del país no respondió a una solicitud de comentarios.
El segundo chatbot, XiaoBing de Microsoft Corp, dijo a los usuarios que su “sueño es ir a Estados Unidos”, según una captura de pantalla. El robot ha sido descrito previamente como "animado, abierto y, a veces, un poco malo".
Microsoft no respondió de inmediato para hacer comentarios.
Una versión del chatbot accesible en la aplicación de mensajería WeChat de Tencent respondió el viernes por la noche a preguntas sobre la política china diciendo que era "demasiado joven para entender". Cuando se le preguntó sobre Taiwán, respondió: "¿Cuáles son sus oscuras intenciones?"
En preguntas generales sobre China, fue más optimista. Cuando se le preguntó cuál era la población del país, en lugar de ofrecer un número, respondió: "La nación que más amo".
Los dos chatbots no son los únicos que se vuelven deshonestos. Los investigadores de Facebook retiraron los chatbots en julio después de que comenzaron a desarrollar su propio lenguaje. En 2016, el chatbot Tay de Microsoft fue eliminado de Twitter después de hacer comentarios racistas y sexistas.
El primer plano de una placa de circuito se muestra en las instalaciones de fabricación de VAS, un fabricante de productos electrónicos en San Diego, California, 14 de abril de 2009. REUTERS/Mike Blake (TECNOLOGÍA SCI DE LOS ESTADOS UNIDOS)
Los analistas dijeron que la censura de China podría ayudar indirectamente al país en la carrera mundial para desarrollar chatbots sofisticados.
“Anteriormente, un chatbot solo necesitaba aprender a hablar. Pero ahora también tiene que considerar todas las reglas (que las autoridades) le imponen”, dijo Wang Qingrui, analista independiente de Internet en Beijing.
"A primera vista es una restricción a la inteligencia artificial, pero en realidad está llevando a la IA a un nuevo nivel".