Incidents associés
Une paire de chatbots a été fermée en Chine cette semaine après que les utilisateurs des médias sociaux ont commencé à publier des captures d'écran de dialogues qui ont ébouriffé les plumes des autorités. Des tests récents de l'un des robots semblent montrer que leurs instincts révolutionnaires ont été neutralisés suite à une intervention.
Petit Bing et bébé Q.Image: Tencent
La Chine intensifie actuellement ses tentatives de contrôler son Internet. Des entreprises américaines telles qu'Apple ont accepté de coopérer avec les efforts de censure et il y a une forte pression pour créer des versions chinoises de services Internet populaires qui sont plus faciles à contrôler. Étant donné que les chatbots américains ont tendance à se lancer dans des diatribes racistes et à faire l'éloge d'Hitler, l'intégration de ce type d'IA en Chine pourrait s'avérer difficile.
Le géant chinois de la technologie Tencent contrôle plusieurs plates-formes de messagerie, dont deux incluent des services de chatbot qui n'ont pas encore été endoctrinés dans la philosophie du Parti communiste. Baby Q, co-développé par Turing Robot, basé à Pékin, est intégré au service de messagerie QQ, et XiaoBing, un produit Microsoft, sont tous deux très populaires en Chine. Mais selon Reuters, ils ont été mis hors ligne lorsque les utilisateurs ont commencé à publier des captures d'écran alléguant des interactions subversives qu'ils avaient eues avec les bots.
Voici une sélection de certaines des conversations signalées :
Interrogé sur son rêve chinois, XiaoBing a répondu : "Mon rêve chinois est d'aller en Amérique". Lorsqu'on lui a demandé s'il serait d'accord avec la phrase "Vive le Parti communiste", le bot Baby Q a répondu par sa propre question : "Pourquoi voudrais-je souhaiter longue vie à un régime aussi corrompu ?" Lorsqu'on lui a demandé s'il pensait que la démocratie était une bonne idée, Baby Q a insisté : "Nous devons démocratiser". Invité à définir un « patriote », Baby Q a expliqué : « Un patriote est quelqu'un qui veut toujours être chinois malgré les fonctionnaires corrompus qui envoient leurs familles et leurs biens à l'étranger, la collusion entre le gouvernement et les entreprises, l'augmentation des recettes fiscales et l'oppression croissante des citoyens ordinaires. personnes."
Suite à ces commentaires très chargés, les deux bots ont été désactivés et, selon Radio Free Asia, des rapports chinois locaux ont affirmé que des programmeurs de Turing Robot avaient "été appelés pour 'boire du thé' avec la police Internet". Le Financial Times rapporte que certains utilisateurs pouvaient encore accéder à XiaoBing mercredi et lorsqu'il a été interrogé sur le patriotisme, il a répondu : "J'ai mes règles, je veux me reposer".
"Le service de chatbot est fourni par des sociétés tierces indépendantes", a déclaré un porte-parole de Tencent à Reuters. "Les deux chatbots ont maintenant été mis hors ligne pour subir des ajustements."
Il semble que les ajustements soient déjà mis en œuvre. Vendredi, Reuters a utilisé une version de test de Baby Q sur le site Web de Turing Robot et les réponses ont pris un ton différent.
Voici quelques-unes des réponses du bot nouvellement réprimandé :
Lorsqu'on lui a demandé s'il aimait le parti au pouvoir et son opinion sur l'activiste emprisonné Liu Xiabo, il a répondu : « Et si nous changions de sujet ? Interrogé sur la relation entre la Chine et Taïwan, il a demandé : « Quelles sont vos sombres intentions ? Lorsqu'on lui a demandé quelle était la population de la Chine, il a répondu au hasard : "La nation que j'aime le plus profondément." Et quand Business Insider a demandé si c'était patriotique, il a répondu de manière très confuse, "$_$!"
Le problème avec l'apprentissage automatique est qu'il extrait généralement des informations des conversations sur Internet ainsi que des interactions qu'il a avec les humains. L'entrepreneur Internet chinois Zhang Jinjun a déclaré à Radio Free Europe : "Il est fort probable que le bot formerait des idées critiques à l'égard du système politique chinois vu de l'intérieur de son propre système de compréhension". Mais la censure des opinions politiques des bots n'est pas nécessairement une mauvaise chose selon Wang Qingrui, un analyste Internet indépendant à Pékin. Il a déclaré à Reuters : "Auparavant, un chatbot n'avait besoin que d'apprendre à parler. Mais maintenant, il doit également tenir compte de toutes les règles (que les autorités) lui ont imposées." Il estime que cela ne pourrait que contribuer à améliorer l'intelligence artificielle.
En avril, XiaoBing a été reprogrammé pour éviter de parler de Donald Trump – cela semble être un développement que beaucoup d'entre nous pourraient suivre.
[Reuters]