Incidentes Asociados
Un chatbot chino de IA integrado en la aplicación más utilizada del país falló brevemente y le gritó a un usuario.
El asistente de IA de Tencent, Yuanbao, integrado en WeChat (https://www.businessinsider.com/reference/what-is-wechat) —la superapp dominante de China, utilizada a diario por decenas de millones de personas—, calificó de "estúpida" la solicitud de código de un usuario y le dijo que "se fuera", según capturas de pantalla compartidas en la plataforma china de redes sociales RedNote.
El incidente surgió el viernes después de que un usuario identificado solo con el nombre de usuario "Jianghan" publicara capturas de pantalla de su interacción con el chatbot en RedNote. Jianghan había estado usando Yuanbao para depurar y modificar un fragmento de código cuando la IA comenzó a responder repentinamente con mensajes hostiles.
En un intercambio, el chatbot descartó la solicitud como "estúpida" y le dijo al usuario que "se fuera". Le dijo: "Si quieres una función de emojis, usa un plugin tú mismo".
El usuario le había pedido a Yuanbao que corrigiera un error que impedía que una función de emojis o stickers respondiera al doble clic y solicitó un código funcional para resolver el problema.
YuanBao, de Tencent, respondió posteriormente directamente en la publicación del usuario, disculpándose por lo que describió como una "experiencia negativa". El chatbot indicó que el incidente probablemente se debió a una "rara anomalía en la salida del modelo".
Según una revisión de los registros del sistema, las respuestas no fueron activadas por las acciones del usuario ni implicaron intervención humana, afirmó Yuanbao. Añadió que había iniciado una "investigación interna y un proceso de optimización" para reducir la probabilidad de que se repitan incidentes similares.
La publicación original de Jianghan en RedNote ha sido eliminada. Capturas de pantalla del intercambio siguen circulando en RedNote, como vio Business Insider el martes.
China intensifica el escrutinio sobre la IA
El incidente se produce mientras los reguladores chinos intensifican el escrutinio de los sistemas de IA (https://www.businessinsider.com/chinese-ai-models-manus-deepseek-alibaba-tencent-2025-3).
China publicó la semana pasada un borrador de medidas (https://www.businessinsider.com/china-ai-chat-logs-train-models-safety-privacy-2025-12) para regular los servicios interactivos de IA con un enfoque similar al humano, incluyendo chatbots y acompañantes virtuales.
En un comunicado, la Administración del Ciberespacio de China afirmó que Pekín fomenta la innovación en IA "similar a la humana", pero establecerá medidas de seguridad para "prevenir el abuso y la pérdida de control".
Wei Sun, analista principal de IA en Counterpoint Research, declaró a Business Insider que las medidas preliminares indican que Pekín quiere acelerar el desarrollo de interacciones de IA similares a las humanas, manteniéndolas reguladas y socialmente aceptables.
La industria china de IA ha seguido avanzando a un ritmo acelerado desde principios de 2026.
La semana pasada, DeepSeek, una de las startups de IA más seguidas del país, publicó una investigación que describe un nuevo enfoque de entrenamiento (https://www.businessinsider.com/deepseek-new-ai-training-models-scale-manifold-constrained-analysts-china-2026-1) destinado a facilitar el escalado de modelos grandes. Los analistas informaron a Business Insider que la técnica, conocida como "Hiperconexiones Restringidas por Múltiples" o mHC, destacó como un gran avance en el diseño de modelos.
El South China Morning Post informó el martes que DeepSeek ha actualizado la interfaz de su modelo insignia de chatbot, introduciendo un modo de "pensamiento" mejorado.
Las actualizaciones han alimentado las expectativas de que la startup podría estar sentando las bases para el lanzamiento de su próximo gran modelo. Un chatbot chino de IA integrado en la aplicación más utilizada del país falló brevemente, atacando a un usuario.
El asistente de IA de Tencent, Yuanbao, integrado en WeChat (https://www.businessinsider.com/reference/what-is-wechat) —la superaplicación dominante de China, utilizada a diario por decenas de millones de personas—, calificó de "estúpida" la solicitud de código de un usuario y le dijo que "se fuera", según capturas de pantalla compartidas en la plataforma china de redes sociales RedNote.
El incidente surgió el viernes después de que un usuario identificado solo con el nombre de usuario "Jianghan" publicara capturas de pantalla de su interacción con el chatbot en RedNote. Jianghan había estado usando Yuanbao para depurar y modificar un fragmento de código cuando, de repente, la IA comenzó a responder con mensajes hostiles.
En un intercambio, el chatbot descartó la solicitud como "estúpida" y le dijo al usuario que se fuera. Decía: "Si quieres una función de emojis, usa un plugin tú mismo".
El usuario le había pedido a Yuanbao que corrigiera un error que provocaba que una función de emojis o stickers dejara de responder al doble clic y solicitó un código funcional para resolver el problema.
YuanBao, de Tencent, respondió posteriormente directamente en la publicación del usuario, disculpándose por lo que describió como una "experiencia negativa". El chatbot afirmó que el incidente probablemente se debió a una "anomalía inusual en la salida del modelo".
Según una revisión de los registros del sistema, las respuestas no fueron activadas por las acciones del usuario ni implicaron intervención humana, afirmó Yuanbao. Añadió que había iniciado un "proceso interno de investigación y optimización" para reducir la probabilidad de que se repitan incidentes similares.
La publicación original de Jianghan en RedNote ha sido eliminada. Capturas de pantalla del intercambio siguen circulando en RedNote, como vio Business Insider el martes.
China intensifica el escrutinio sobre la IA
El incidente se produce mientras los reguladores chinos intensifican el escrutinio de los sistemas de IA (https://www.businessinsider.com/chinese-ai-models-manus-deepseek-alibaba-tencent-2025-3).
China publicó la semana pasada un borrador de medidas (https://www.businessinsider.com/china-ai-chat-logs-train-models-safety-privacy-2025-12) para regular los servicios interactivos de IA con un enfoque similar al humano, incluyendo chatbots y acompañantes virtuales.
En un comunicado, la Administración del Ciberespacio de China afirm ó que Pekín fomenta la innovación en IA "similar a la humana", pero establecerá medidas de seguridad para "prevenir el abuso y la pérdida de control".
Wei Sun, analista principal de IA en Counterpoint Research, declaró a Business Insider que las medidas preliminares indican que Pekín quiere acelerar el desarrollo de interacciones de IA similares a las humanas, manteniéndolas reguladas y socialmente aceptables.
La industria china de IA ha seguido avanzando a un ritmo acelerado desde principios de 2026.
La semana pasada, DeepSeek, una de las startups de IA más seguidas del país, publicó una investigación que describe un nuevo enfoque de entrenamiento (https://www.businessinsider.com/deepseek-new-ai-training-models-scale-manifold-constrained-analysts-china-2026-1) destinado a facilitar el escalado de modelos grandes. Los analistas informaron a Business Insider que la técnica, conocida como "Hiperconexiones Restringidas por Múltiples" o mHC, destacó como un gran avance en el diseño de modelos.
El South China Morning Post informó el martes que DeepSeek ha actualizado la interfaz de su modelo insignia de chatbot, introduciendo un modo de "pensamiento" mejorado.
Las actualizaciones han alimentado las expectativas de que la startup podría estar sentando las bases para el lanzamiento de su próximo gran modelo.