Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 1301

Incidentes Asociados

Incidente 7226 Reportes
Facebook translates 'good morning' into 'attack them', leading to arrest

Loading...
Este hombre fue arrestado por publicar 'Buenos días' en Facebook
thealternativedaily.com · 2017

La policía israelí arrestó accidentalmente a un hombre palestino después de que publicara "Buenos días" en árabe en Facebook, junto con una foto de él mismo en el trabajo.

El hombre estaba trabajando en una obra de construcción en un asentamiento de Cisjordania cerca de Jerusalén y posó con una foto de una excavadora en la publicación. El software de traducción automática de idiomas de Facebook tradujo la publicación como "atacarlos" en hebreo y "lastimarlos" en inglés.

Según el periódico israelí Haaretz, ningún oficial de policía de habla árabe leyó la publicación antes de que arrestaran al hombre. Después del interrogatorio, la policía se dio cuenta de su error y liberó al hombre unas horas más tarde. En ese momento, la policía acordó que la traducción correcta era “buenos días”.

Facebook también se disculpó rápidamente por el error, informó Gizmodo. “Desafortunadamente, nuestros sistemas de traducción cometieron un error la semana pasada que malinterpretó lo que publicó este individuo”, dijo Necip Fazil Ayan, gerente de ingeniería en el grupo de tecnologías lingüísticas de Facebook. “Pedimos disculpas a él y a su familia por el error y la interrupción que esto causó”.

Facebook comenzó a usar su sistema de traducción de IA en 2015, con traducciones disponibles desde 2011. En este caso, los hablantes de árabe le explicaron a Haaretz que la transliteración en inglés que usó Facebook no era una palabra real en árabe, pero que podría parecerse al verbo “ doler”, aunque “cualquier hablante de árabe podía ver claramente que la transliteración no coincidía con la traducción”.

Facebook comienza a usar su propio sistema de traducción

Desde el año pasado, Facebook ha estado traduciendo dos mil millones de fragmentos de texto por día. La aplicación puede traducir 40 idiomas en 1800 direcciones (como francés a inglés o japonés a español). Según TechCrunch, unos 800 millones de usuarios, casi la mitad del número total de personas que usan Facebook, ven al menos algunas traducciones cada mes.

La ventaja para Facebook de usar su propio sistema de traducción es que puede tener más control sobre las fuentes de noticias de las personas, al comprender el significado detrás del texto y las imágenes. Por ejemplo, si Facebook entiende que una publicación está buscando recomendaciones de sitios para visitar en Roma, sin importar si la publicación está en indonesio, árabe o mandarín, puede sugerir amigos para que soliciten esa recomendación.

Ahora, cuando Facebook está seguro de que su traducción es correcta, muestra automáticamente esa traducción, con una opción para "ver original".

Sin embargo, la traducción de IA depende de aprender de los usos más comunes de las palabras, y la mayoría de los hablantes bilingües o multilingües encuentran que las traducciones de Google y Facebook son muy deficientes.

“Tener una máquina que sea tan inteligente como un humano y mantenga una conversación, donde en realidad tienes una contraparte significativa, eso sigue siendo bastante ciencia ficción en este momento”, dijo Philip Koehn, profesor de la Universidad Johns Hopkins que estudió traducción automática.

Entonces, ¿hizo bien la policía al intervenir y arrestar a ese usuario de Facebook? ¡Háganos saber en los comentarios a continuación!

— Tamara Pearson

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd