Registro de citas para el Incidente 72

Description: Facebook's automatic language translation software incorrectly translated an Arabic post saying "Good morning" into Hebrew saying "hurt them," leading to the arrest of a Palestinian man in Beitar Illit, Israel.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial
Presunto: un sistema de IA desarrollado e implementado por Facebook, perjudicó a unnamed Palestinian Facebook user , Palestinian Facebook users , Arabic-speaking Facebook users y Facebook users.

Estadísticas de incidentes

ID
72
Cantidad de informes
26
Fecha del Incidente
2017-10-17
Editores
Sean McGregor, Khoa Lam

Clasificaciones de la Taxonomía CSETv0

Detalles de la Taxonomía

Full Description

Facebook's automatic language translation software incorrectly translated an Arabic post saying "Good morning" into Hebrew saying "hurt them," leading to the arrest of a Palestinian man in Beitar Illit, Israel. The post was not read by any Arabic-speaking officers before the arrest was made. The man was posted the words along with a picture of him leaning on a bulldozer, which are sometimes used in terrorist attacks, therefore the conclusion made he was inciting violence. Facebook's automatic language translation software can translate 40 languages in 1,800 directions, and posts the translation instead of the original when confident the translation is correct.

Short Description

Facebook's automatic language translation software incorrectly translated an Arabic post saying "Good morning" into Hebrew saying "hurt them," leading to the arrest of a Palestinian man in Beitar Illit, Israel.

Severity

Moderate

Harm Type

Psychological harm, Harm to civil liberties

AI System Description

Facebook's automatic language translation software that can translate 40 languages in 1,800 directions

System Developer

Facebook

Sector of Deployment

Information and communication

Relevant AI functions

Perception, Cognition, Action

AI Techniques

natural language processing

AI Applications

language translation

Location

Beitar Illit, Israel

Named Entities

Israeli Police, Facebook, Beitar Illit, Israel

Technology Purveyor

Facebook

Beginning Date

2017-10-15

Ending Date

2017-10-15

Near Miss

Harm caused

Intent

Accident

Lives Lost

No

Data Inputs

User posts/input

Clasificaciones de la Taxonomía GMF

Detalles de la Taxonomía

Known AI Goal

Translation

Known AI Technology

Convolutional Neural Network, Recurrent Neural Network, Distributional Learning

Potential AI Technology

Intermediate modeling, Classification, Multimodal Learning, Image Classification

Known AI Technical Failure

Dataset Imbalance, Distributional Bias

Potential AI Technical Failure

Generalization Failure

Clasificaciones de la Taxonomía CSETv1

Detalles de la Taxonomía

Harm Distribution Basis

none

Sector of Deployment

information and communication

privacyinternational.org · 2017

Un error en el servicio de traducción automática de Facebook llevó al arresto e interrogatorio de un palestino por parte de la policía israelí. El hombre, un trabajador de la construcción en Cisjordania, publicó una foto de sí mismo apoyado…

La policía israelí arresta a un palestino por una publicación en Facebook
dailymail.co.uk · 2017

La policía israelí arrestó por error a un palestino que publicó 'buenos días' en árabe en línea, que Facebook tradujo erróneamente como 'ataquenlos'.

El hombre subió una foto de sí mismo apoyado contra una excavadora en el asentamiento isra…

Israel arresta a un palestino porque Facebook tradujo 'Buenos días' a 'Atácalos'
haaretz.com · 2017

La policía de Israel arrestó por error a un trabajador palestino la semana pasada porque se basó en un software de traducción automática para traducir una publicación que escribió en su página de Facebook. El palestino fue arrestado después…

postcourier.com.pg · 2017

A raíz de un error de Facebook, la policía israelí arrestó a un hombre palestino por publicar "Buenos días" en el sitio de la red social.

Según los informes, el hombre, un trabajador de la construcción, dijo "Buenos días" en árabe en una pu…

La policía de Israel arresta por error a un palestino por escribir "buenos días" en Facebook
independent.co.uk · 2017

Un hombre palestino que publicó "buenos días" en árabe en Facebook fue arrestado después de que la policía israelí tradujera erróneamente su mensaje como "ataquen".

El hombre, cuyo nombre no ha sido identificado, publicó una foto de sí mism…

Hombre arrestado por una mala traducción de Facebook
alphr.com · 2017

Un hombre palestino fue arrestado por la policía israelí la semana pasada, después de que una publicación que dejó en Facebook que decía "buenos días" en árabe se interpretara como "ataquen" en hebreo.

Una portavoz del distrito de Cisjordan…

Palestino arrestado por la policía israelí después de que Facebook tradujo mal su publicación de 'buenos días'
ibtimes.co.uk · 2017

Un hombre palestino en Cisjordania fue arrestado por la policía israelí después de escribir "buenos días" en árabe en una publicación de Facebook que fue mal traducida por el software de traducción automática de la compañía. Según los infor…

Israel: traducción fallida de Facebook lleva a hombre a prisión; 'Good Morning' se convierte en 'Attack Them'
newsx.com · 2017

El constructor palestino Halawim Halawi, quien publicó 'Buenos días' en su cuenta de Facebook, lo que le otorgó unas horas en el calabozo. El software de traducción automática de Facebook que interpretó la publicación en el sentido de "atac…

Arrestan a un hombre después de que Facebook tradujera un saludo y lo convirtiera en una amenaza
digitaltrends.com · 2017

Cuota

La función de traducción automática de Facebook permite a los usuarios conectarse más allá de las barreras del idioma, pero una traducción incorrecta de un simple "buenos días" resultó ser un desastre para un hombre palestino. Cuando …

news.ycombinator.com · 2017

Discusión de noticias de hackers sobre la disculpa de Facebook.

Israel arrestó a un palestino después de que Facebook tradujo “Buenos días” como “Atácalos”
qz.com · 2017

Facebook dice que traduce automáticamente alrededor de 4.500 millones de publicaciones cada día. Con nuevas investigaciones y avances, la tecnología sigue mejorando, pero no es perfecta, y sus defectos pueden tener graves consecuencias.

La …

Facebook traduce 'buenos días' por 'atácalos', lo que lleva al arresto
theguardian.com · 2017

Palestino interrogado por la policía israelí después de vergonzoso error de traducción de la leyenda debajo de la foto de él apoyado contra una excavadora

Facebook se disculpó después de que un error en su servicio de traducción automática …

Hombre arrestado por decir 'buenos días' porque el traductor en línea cometió un error
metro.co.uk · 2017

Un trabajador de la construcción fue arrestado después de publicar 'Buenos días' en Facebook, porque la traducción automática se equivocó.

El hombre palestino había publicado una foto en el trabajo con un cigarrillo y un café, agregando un …

Facebook se disculpa después de que una traducci�ón incorrecta ve a un palestino arrestado por publicar "buenos días"
theverge.com · 2017

Facebook se disculpó después de que la policía israelí arrestara a un palestino por una publicación que decía "buenos días" que su servicio de traducción automática tradujo erróneamente como "atacarlos" en hebreo y "lastimarlos" en inglés, …

Hombre palestino arrestado después de que Facebook tradujera automáticamente 'Buenos días' como 'Atácalos'
gizmodo.com.au · 2017

Un trabajador de la construcción palestino fue arrestado por la policía israelí después de que Facebook tradujera incorrectamente el texto de una de sus publicaciones. Haaretz informa que el hombre subió una foto de su trabajo en un sitio d…

swordandscale.com · 2017

Dicen que una imagen vale más que mil palabras, pero solo se necesitaron dos para que un hombre palestino se encontrara bajo arresto después de un error de traducción de Facebook.

Un trabajador de la construcción del asentamiento de Beitar …

Según los informes, un 'Buenos días' hace que un hombre sea arrestado después de un error de traducción de Facebook
supernewsworld.com · 2017

Digital Trends ha informado que la función de traducción automática de Facebook permite a los usuarios conectarse más allá de las barreras del idioma, pero una traducción incorrecta de un simple "buenos días" resultó ser un desastre para un…

dailydot.com · 2017

Ningún servicio de traducción es perfecto, pero no esperaría que lo arrestaran.

Facebook admitió que un error en su función de traducción automática basada en inteligencia artificial condujo al arresto de un hombre palestino que publicó "bu…

La falla de la IA de traducción automática de Facebook conduce a una pesadilla para un hombre palestino
mashable.com · 2017

Las malas traducciones a menudo hacen una buena comedia, pero en el caso de este hombre palestino, marcaron el comienzo de una pesadilla.

La policía israelí arrestó al hombre, un trabajador de la construcción en un asentamiento de Cisjordan…

Este hombre fue arrestado por publicar 'Buenos días' en Facebook
thealternativedaily.com · 2017

La policía israelí arrestó accidentalmente a un hombre palestino después de que publicara "Buenos días" en árabe en Facebook, junto con una foto de él mismo en el trabajo.

El hombre estaba trabajando en una obra de construcción en un asenta…

Traducción defectuosa de Facebook conduce al arresto de un hombre palestino
tomedes.com · 2017

Fue solo la semana pasada que discutimos los defectos de la traducción automática. En ese caso, el enfoque del artículo estaba en los insultos raciales de la aplicación de mensajería WeChat. Ahora, una nueva historia ha resaltado una vez má…

Palestino arrestado después de error de traducción de Facebook
forward.com · 2017

Un hombre palestino fue arrestado por error en Israel después de que el software de traducción de Facebook convirtió su pie de foto de "buenos días" en una amenaza.

El hombre, que trabaja en un asentamiento de Cisjordania, publicó una foto …

translateplus.com · 2017

Algunos errores causados por la traducción automática son bastante inofensivos; otros no tanto. El paso en falso ocasional del idioma puede ser bueno para reír, pero nunca se sabe cuándo un percance aparentemente inofensivo puede causar un …

Hombre arrestado después de que Facebook tradujo mal la publicación de 'buenos días' como 'ataquenlos'
forum.facepunch.com · 2018

[CITA] La policía israelí arrestó a un hombre palestino después de que su publicación de “buenos días” fuera traducida por Facebook como “atáquenlos”. El monitoreo de las redes sociales combinado con la IA de Facebook que tradujo mal una pu…

¿Mensajes mezclados? Los límites del análisis automatizado de contenido de redes sociales
cdt.org · 2018

Los gobiernos y las empresas están recurriendo a herramientas automatizadas para dar sentido a lo que la gente publica en las redes sociales. Los legisladores piden habitualmente a las empresas de redes sociales que identifiquen y eliminen …

Una traducción de Google no es evidencia suficiente para enviar a alguien a la cárcel, encuentra el juez en un caso de narcóticos (GOOG, GOOGL)
finance.yahoo.com · 2018

Greg Sandoval/Business Insider

Un hombre de México fue detenido en la carretera de Kansas y se sospechaba que transportaba drogas.

Con la ayuda de Google Translate, el policía de Kansas Highway le preguntó al hombre en español si podía regi…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.