Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 1291

Incidentes Asociados

Incidente 7226 Reportes
Facebook translates 'good morning' into 'attack them', leading to arrest

Loading...
Facebook traduce 'buenos días' por 'atácalos', lo que lleva al arresto
theguardian.com · 2017

Palestino interrogado por la policía israelí después de vergonzoso error de traducción de la leyenda debajo de la foto de él apoyado contra una excavadora

Facebook se disculpó después de que un error en su servicio de traducción automática hizo que la policía israelí arrestara a un hombre palestino por publicar "buenos días" en su perfil de redes sociales.

El hombre, un trabajador de la construcción en el asentamiento de Beitar Illit en Cisjordania, cerca de Jerusalén, publicó una foto de sí mismo apoyado contra una excavadora con la leyenda "يصبحهم", o "yusbihuhum", que se traduce como "buenos días".

Pero el servicio de traducción impulsado por inteligencia artificial de Facebook, que creó después de separarse de la traducción de Bing de Microsoft en 2016, tradujo la palabra a "dañarlos" en inglés o "atacarlos" en hebreo.

Los agentes de policía arrestaron al hombre más tarde ese día, según el periódico israelí Haaretz, después de que se les notificó la publicación. Lo interrogaron durante varias horas, sospechando que planeaba usar la excavadora de la foto en un ataque con un vehículo, antes de darse cuenta de su error. En ningún momento antes de su arresto, ningún oficial de habla árabe leyó la publicación real.

Facebook dijo que está investigando el problema y, en un comunicado a Gizmodo, agregó: “Desafortunadamente, nuestros sistemas de traducción cometieron un error la semana pasada que malinterpretó lo que publicó esta persona.

“Aunque nuestras traducciones mejoran cada día, pueden ocurrir errores como estos de vez en cuando y hemos tomado medidas para abordar este problema en particular. Nos disculpamos con él y su familia por el error y la interrupción que esto causó”.

El árabe se considera particularmente difícil para muchos servicios de traducción automática debido a la gran cantidad de dialectos diferentes que se usan en todo el mundo, además del árabe estándar moderno, la forma internacional del idioma.

La Fuerza de Defensa de Israel ha estado abierta a monitorear las cuentas de los medios sociales de los palestinos, en busca de atacantes "lobos solitarios" que de otro modo podrían colarse en la red. Según se informa, lo hace automáticamente, utilizando algoritmos para buscar términos como "espada de Alá".

Los errores de traducción automática son una ocurrencia regular para cualquiera que use IA para traducir idiomas, particularmente aquellos con poca relación. A principios de este mes, la red social china WeChat se disculpó después de que su propio sistema de traducción automática tradujera una frase neutral que significaba "extranjero negro" como la palabra n.

“Cuando ejecuté el traductor, apareció la palabra n y me quedé boquiabierta”, dijo Ann James, quien había estado intercambiando mensajes de texto con un amigo cuando apareció la traducción defectuosa.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd