Incidents associés
Un chatbot IA chinois intégré à l'application la plus utilisée du pays a brièvement déraillé, s'en prenant à un utilisateur.
Yuanbao, l'assistant IA de Tencent, intégré à WeChat (la super-application chinoise dominante utilisée quotidiennement par des dizaines de millions de personnes), a qualifié de « stupide » la demande de code d'un utilisateur et lui a dit de « dégager », d'après des captures d'écran partagées sur la plateforme de médias sociaux chinoise RedNote.
L'incident a été révélé vendredi par un utilisateur identifié uniquement par le pseudonyme « Jianghan », qui a publié des captures d'écran de son interaction avec le chatbot sur RedNote. Jianghan utilisait Yuanbao pour déboguer et modifier un morceau de code lorsque l'IA a soudainement commencé à répondre de manière hostile.
Lors d'un échange, le chatbot a qualifié la demande de « stupide » et a dit à l'utilisateur de « dégager ». Il a ajouté : « Si vous voulez des emojis, utilisez un plugin vous-même. »
L'utilisateur avait demandé à Yuanbao de corriger un bug empêchant la fonctionnalité d'emojis et de stickers de répondre aux doubles clics, et avait sollicité un code fonctionnel pour résoudre le problème.
Yuanbao, le chatbot de Tencent, a ensuite répondu directement sous la publication de l'utilisateur, en s'excusant pour ce qu'il a qualifié d'« expérience négative ». Le chatbot a indiqué que l'incident était probablement dû à une « anomalie rare du modèle ».
D'après l'analyse des journaux système, les réponses n'étaient pas liées aux actions de l'utilisateur et n'impliquaient aucune intervention humaine, a précisé Yuanbao. L'entreprise a ajouté avoir lancé une « enquête interne et un processus d'optimisation » afin de réduire le risque de récidive.
La publication originale de Jianghan sur RedNote a depuis été supprimée. Des captures d'écran de l'échange continuent de circuler sur RedNote, comme l'a constaté Business Insider mardi.
La Chine renforce son contrôle sur l'IA
Cet incident survient alors que les autorités chinoises intensifient leur surveillance des systèmes d'IA.
La Chine a publié la semaine dernière un projet de mesures visant à encadrer les services d'IA interactifs « à l'échelle humaine », notamment les chatbots et les assistants virtuels.
Dans un communiqué, l'Administration du cyberespace de Chine a déclaré que Pékin encourage l'innovation dans le domaine de l'IA « à l'échelle humaine », mais mettra en place des garde-fous pour prévenir les abus et les pertes de contrôle.
Wei Sun, analyste principal en IA chez Counterpoint Research, a déclaré à Business Insider que le projet de mesures indique que Pékin souhaite accélérer le développement d'interactions IA de type humain, tout en les maintenant encadrées et socialement acceptables.
L'industrie chinoise de l'IA poursuit sa croissance rapide depuis début 2026.
La semaine dernière, DeepSeek, l'une des startups d'IA les plus suivies du pays, a publié une étude présentant une nouvelle approche d'entraînement visant à faciliter la mise à l'échelle des grands modèles. Selon les analystes interrogés par Business Insider, cette technique, appelée « Hyper-connexions à contrainte de variété » (mHC), représente une avancée majeure dans la conception de modèles.
Le South China Morning Post a rapporté mardi que DeepSeek a mis à jour l'interface de son chatbot phare, en y intégrant un mode de « réflexion » amélioré.
Ces mises à jour ont alimenté les spéculations selon lesquelles la start-up préparerait le terrain pour le lancement de son prochain modèle phare. Un chatbot IA chinois, intégré à l'application la plus utilisée du pays, a brièvement déraillé, s'en prenant à un utilisateur.
L'assistant IA de Tencent, Yuanbao, intégré à WeChat (la super-application chinoise dominante utilisée quotidiennement par des dizaines de millions de personnes), a qualifié la demande de programmation d'un utilisateur de « stupide » et lui a dit de « dégager », d'après des captures d'écran partagées sur la plateforme de médias sociaux chinoise RedNote.
L'incident a été révélé vendredi par un utilisateur identifié uniquement par le pseudonyme « Jianghan », qui a publié des captures d'écran de son interaction avec le chatbot sur RedNote. Jianghan utilisait Yuanbao pour déboguer et modifier un morceau de code lorsque l'IA a soudainement commencé à répondre par des messages hostiles.
Lors d'un échange, le chatbot a qualifié la demande de « stupide » et a envoyé promener l'utilisateur. Il a déclaré : « Si vous voulez une fonctionnalité emoji, utilisez un plugin vous-même. »
L'utilisateur avait demandé à Yuanbao de corriger un bug empêchant la fonctionnalité emoji ou sticker de répondre aux doubles clics, et avait sollicité un code fonctionnel pour résoudre le problème.
Yuanbao de Tencent a ensuite répondu directement sous la publication de l'utilisateur, s'excusant pour ce qu'il a décrit comme une « mauvaise expérience ». Le chatbot a indiqué que l'incident était probablement dû à une « anomalie rare du modèle ».
D'après l'analyse des journaux système, les réponses n'étaient pas liées aux actions de l'utilisateur et n'impliquaient aucune intervention humaine, a précisé Yuanbao. L'entreprise a ajouté avoir lancé une « enquête interne et un processus d'optimisation » afin de réduire la probabilité que des incidents similaires se reproduisent.
La publication originale de Jianghan sur RedNote a depuis été supprimée. Des captures d'écran de l'échange continuent de circuler sur RedNote, comme l'a constaté Business Insider mardi.
La Chine renforce son contrôle sur l'IA
Cet incident survient alors que les autorités chinoises intensifient leur surveillance des systèmes d'IA.
La Chine a publié la semaine dernière un projet de mesures visant à encadrer les services d'IA interactifs « à l'échelle humaine », notamment les chatbots et les assistants virtuels.
Dans un communiqué, l'Administration du cyberespace de Chine a déclaré que Pékin encourage l'innovation dans le domaine de l'IA « à l'échelle humaine », mais mettra en place des garde-fous pour prévenir les abus et les pertes de contrôle.
Wei Sun, analyste principal en IA chez Counterpoint Research, a déclaré à Business Insider que le projet de mesures indique que Pékin souhaite accélérer le développement d'interactions IA de type humain, tout en les maintenant encadrées et socialement acceptables.
L'industrie chinoise de l'IA poursuit sa croissance rapide depuis début 2026.
La semaine dernière, DeepSeek, l'une des startups d'IA les plus suivies du pays, a publié une étude présentant une nouvelle approche d'entraînement visant à faciliter la mise à l'échelle des grands modèles. Selon les analystes interrogés par Business Insider, cette technique, appelée « Hyper-connexions à contrainte de variété » (mHC), représente une avancée majeure dans la conception de modèles.
Le South China Morning Post a rapporté mardi que DeepSeek a mis à jour l'interface de son chatbot phare, en y intégrant un mode de « réflexion » amélioré.
Ces mises à jour ont alimenté les spéculations selon lesquelles la start-up pourrait préparer le terrain pour le lancement de son prochain modèle phare.