Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 1302

Incidentes Asociados

Incidente 7226 Reportes
Facebook translates 'good morning' into 'attack them', leading to arrest

Loading...
Hombre arrestado por una mala traducción de Facebook
alphr.com · 2017

Un hombre palestino fue arrestado por la policía israelí la semana pasada, después de que una publicación que dejó en Facebook que decía "buenos días" en árabe se interpretara como "ataquen" en hebreo.

Una portavoz del distrito de Cisjordania de la policía de Israel confirmó a The Times of Israel el domingo que el hombre, un trabajador de la construcción que vive en Cisjordania, fue arrestado “bajo sospecha de incitación”. El hombre estuvo detenido brevemente, pero fue puesto en libertad tan pronto como se dio cuenta del error.

Hay una diferencia de una letra entre la frase árabe para "buenos días a todos" y el hebreo para "atacarlos", dice el informe. Facebook tradujo automáticamente la publicación del árabe y ningún oficial de habla árabe la leyó antes de realizar el arresto.

La publicación también contenía una foto del hombre que sostenía un cigarrillo junto a un JCB. Las autoridades tomaron esto como una amenaza, cuando se combinó con la mala traducción, porque las excavadoras se han utilizado en el pasado en ataques terroristas. Desde entonces, la publicación ha sido eliminada.

Facebook ha cambiado recientemente la forma en que traduce entre idiomas, pero parece que el nuevo método no está libre de errores. La empresa anunció en agosto que se había desplazado hacia la traducción automática neuronal. Esto utiliza redes neuronales convolucionales (CNN) y redes neuronales recurrentes (RNN) para traducir automáticamente el contenido, en lugar de la traducción estadística basada en frases. Se esperaba que esto acelerara y mejorara las traducciones.

"Nuestro problema es diferente al de la mayoría de los lugares estándar, principalmente por el tipo de lenguaje que vemos en Facebook", dijo en ese momento Necip Fazil Ayan, gerente de ingeniería en el grupo de tecnologías del lenguaje de Facebook. "Vemos mucho lenguaje informal y acrónimos de jerga. El estilo del lenguaje es muy diferente".

Pero esta no es la primera vez que una herramienta de traducción en línea causa problemas. El año pasado, Google tradujo la Federación Rusa a 'Mordor', la tierra ficticia de El señor de los anillos utilizando su software de traducción automática. Debido a que el idioma depende tanto del contexto, dijo Google, es probable que errores como este ocurran ocasionalmente.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd