Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 1924

Incidentes Asociados

Incidente 2165 Reportes
WeChat’s Machine Translation Gave a Racist English Translation for the Chinese Term for “Black Foreigner”

Loading...
La aplicación WeChat de China traduce 'extranjero negro' a N-word
theguardian.com · 2017

La aplicación de chat más popular de China se disculpó después de que su software usó la palabra N para traducir una frase china que comúnmente significa "extranjero negro".

WeChat, que tiene casi 900 millones de usuarios, culpó del uso del insulto racial a un error en el software de inteligencia artificial que traduce entre chino e inglés. .

El problema lo notó por primera vez una estadounidense que vive en Shanghái, Ann James, cuando su amiga habló sobre llegar tarde en chino en un chat grupal. James usó la función de traducción integrada de WeChat, que produjo el mensaje: "El negro llega tarde".

“Si eres una persona negra en China, te has enfrentado a alguna locura”, dijo James al sitio web de noticias Sixth Tone, y agregó que con frecuencia la tocan y la fotografían en público. “Sé que hay mucha curiosidad y mucha ignorancia sobre los negros”.

En pruebas posteriores, los usuarios encontraron que la aplicación usaba el insulto racial casi exclusivamente en contextos negativos, incluso con las palabras tarde, perezoso y ladrón. Pero en muchas oraciones neutrales, la palabra, hei laowai en chino, se tradujo al inglés como su significado literal de "extranjero negro".

“Lamentamos mucho la traducción inapropiada”, dijo un portavoz de WeChat a los medios locales (http://www.sixthtone.com/news/1000991/wechat-apologizes-for-translating-black-foreigner-as-n -palabra). "Después de recibir los comentarios de los usuarios, solucionamos el problema de inmediato". Las pruebas realizadas por The Guardian mostraron que el software de traducción había sido reestructurado y ya no producía insultos raciales.

La empresa utiliza IA y aprendizaje automático, alimentando a las computadoras con enormes cantidades de datos para entrenarlas para que elijan las mejores traducciones según el contexto. Pero el sistema también elimina la supervisión humana, lo que lleva al uso de palabras incorrectas e incluso ofensivas.

Esta no es la primera vez que las empresas y los medios chinos han sido acusados de ser sordos cuando se trata de raza. El pueblo Han constituye aproximadamente el 92% de la población de China, y la mayoría de las minorías étnicas del país viven en el lejano oeste, lejos de las ciudades pobladas a lo largo de la costa este.

El año pasado un anuncio de televisión de detergente para ropa mostraba a un hombre negro cubierto de pintura entrando en una lavadora. máquina y saliendo como un hombre asiático brillante. El video se volvió viral en todo el mundo y causó indignación por su mensaje insensible.

Durante el verano, la [agencia estatal de noticias] de China publicó (https://www.cnbc.com/2017/08/17/chinese-media-xinhua-mocks-indians-and-pm-narendra-modis-policies-in-racist -video.html) un video durante un enfrentamiento fronterizo con la India que presenta una parodia ofensiva de un hombre sij, completo con un turbante y una barba postiza.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd