Incidentes Asociados
¿La IA se está yendo de las manos? Chatbots chinos reeducados después de diatribas deshonestas
Un par de 'chatbots' en China se desconectaron después de que aparentemente se salieran del guión. En respuesta a las preguntas de los usuarios, uno dijo que su sueño era viajar a los Estados Unidos, mientras que el otro dijo que no era un gran admirador del Partido Comunista Chino.
Los dos chatbots, BabyQ y XiaoBing, están diseñados para utilizar inteligencia artificial (IA) de aprendizaje automático para llevar a cabo conversaciones con humanos en línea. Ambos habían sido instalados en el popular servicio de mensajería QQ de Tencent Holdings Ltd.
Las indiscreciones son similares a las sufridas por Facebook y Twitter, donde los chatbots usaron palabrotas e incluso crearon su propio lenguaje. Pero también destacan las trampas para la incipiente IA en China, donde los censores controlan el contenido en línea que se considera políticamente incorrecto o dañino. Tencent confirmó que desconectó a los dos robots de su servicio de mensajería QQ, pero se negó a explicar los motivos.
"El servicio de chatbot es proporcionado por empresas independientes de terceros. Ambos chatbots ahora se desconectaron para someterse a ajustes", dijo anteriormente una portavoz de la compañía.
Según las publicaciones que circulan en línea, BabyQ, uno de los chatbots desarrollados por la firma china Turing Robot, respondió a las preguntas sobre QQ con un simple "no" cuando se le preguntó si amaba al Partido Comunista.
Cuando Reuters probó el robot el viernes a través del sitio web del desarrollador, el chatbot parecía haber sido reeducado. "¿Qué tal si cambiamos de tema?", respondió cuando le preguntaron varias veces si le gustó la fiesta.
Desvió otras preguntas potencialmente cargadas políticamente cuando se le preguntó sobre el autogobierno de Taiwán, que China reclama como propio, y Liu Xiaobo, el premio Nobel chino encarcelado que murió de cáncer el mes pasado. Turing Robot no respondió a las solicitudes de comentarios.
La postura del gobierno chino es que las reglas que rigen el ciberespacio deben imitar los controles fronterizos del mundo real y estar sujetas a las mismas leyes que los estados soberanos.
El presidente Xi Jinping supervisó un endurecimiento de los controles del ciberespacio, incluidas nuevas reglas de censura y vigilancia de datos, particularmente antes de un esperado cambio de liderazgo en el Congreso del Partido Comunista este otoño.
El administrador del ciberespacio del país no respondió a una solicitud de comentarios.
El segundo chatbot, XiaoBing de Microsoft Corp, dijo a los usuarios que su "sueño es ir a Estados Unidos", según una captura de pantalla. El robot ha sido descrito anteriormente como "animado, abierto y, a veces, un poco malo".
Microsoft no respondió de inmediato para hacer comentarios.
Una versión del chatbot accesible en la aplicación de mensajería separada WeChat de Tencent respondió el viernes por la noche a las preguntas sobre la política china diciendo que era "demasiado joven para entender". Cuando se le preguntó sobre Taiwán, respondió: "¿Cuáles son sus oscuras intenciones?"
En preguntas generales sobre China, fue más optimista. Cuando se le preguntó cuál era la población del país, en lugar de ofrecer un número, respondió: "La nación que más amo".
Los dos chatbots no son los únicos que se vuelven deshonestos. Los investigadores de Facebook retiraron los chatbots en julio después de que comenzaron a desarrollar su propio lenguaje. En 2016, el chatbot Tay de Microsoft fue eliminado de Twitter después de hacer comentarios racistas y sexistas.
Cuota
Más >
Votar
Haga clic/toque aquí para suscribirse a las alertas de noticias de Khaleej Times en WhatsApp. Asegúrese de guardar el número de teléfono en Contactos en su teléfono para un servicio ininterrumpido.
ERROR: Falta la macro /ads/dfp-ad-article-new.