Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 1925

Incidents associés

Incident 2165 Rapports
WeChat’s Machine Translation Gave a Racist English Translation for the Chinese Term for “Black Foreigner”

Loading...
WeChat traduit « étranger noir » en insulte raciale
bbc.com · 2017

** L'application de messagerie chinoise WeChat s'est excusée après que son logiciel ait utilisé le mot N comme traduction anglaise du chinois pour "étranger noir". **

La société a accusé ses algorithmes d'avoir produit l'erreur.

Il a été repéré par Ann James, une noire américaine vivant à Shanghai, lorsqu'elle a envoyé un texto à ses collègues chinois pour dire qu'elle était en retard.

Mme James, qui utilise la fonction de traduction de WeChat pour lire les réponses en chinois, a reçu la réponse : "La [insulte raciale] est en retard."

Horrifiée, elle a vérifié la phrase chinoise - "hei laowai" - avec un collègue et on lui a dit que c'était une expression neutre, pas un blasphème.

WeChat a reconnu l'erreur au site d'information axé sur la Chine Sixth Tone, en disant : "Nous "Nous sommes vraiment désolés pour la traduction inappropriée. Après avoir reçu les commentaires des utilisateurs, nous avons immédiatement résolu le problème."

Le logiciel de l'application utilise l'intelligence artificielle qui a été alimentée par d'énormes quantités de texte pour l'aider à choisir les meilleures traductions.

Ceux-ci sont basés sur le contexte, il utilise donc parfois des phrases insultantes lorsqu'il parle d'événements négatifs.

[Point de vente local That's Shanghai] (http://www.thatsmags.com/shanghai/post/20888/wechat-translates-black-foreigner-into-n-word) a testé l'application et a découvert que lorsqu'elle était utilisée pour souhaiter du bonheur à quelqu'un anniversaire, l'expression "hei laowai" a été traduite par "étranger noir". Mais lorsqu'une phrase comprenait des mots négatifs comme "en retard" ou "paresseux", cela produisait l'insulte raciste.

Près d'un milliard de personnes utilisent WeChat, qui permet aux utilisateurs de jouer à des jeux, de faire des achats en ligne et de payer des choses ainsi que d'envoyer des messages. Il ressemble à une autre application de chat populaire, WhatsApp, mais est soumis à la censure.

Un groupe de recherche de l'Université de Toronto [a analysé les termes bloqués sur WeChat](https://qz.com/960948/what-happens-when-you-try-to-send-politically-sensitive-messages-on-wechat /) en mars, et ont découvert qu'ils incluaient "Free Tibet", "A bas le parti communiste", et de nombreuses mentions du lauréat du prix Nobel [Liu Xiaobo] (http://www.bbc.co.uk/news/world-asia -40403811), qui était le plus éminent défenseur des droits de l'homme en Chine.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd