Journal des citations pour l'incident 72

Description: Facebook's automatic language translation software incorrectly translated an Arabic post saying "Good morning" into Hebrew saying "hurt them," leading to the arrest of a Palestinian man in Beitar Illit, Israel.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique
Présumé : Un système d'IA développé et mis en œuvre par Facebook, endommagé unnamed Palestinian Facebook user , Palestinian Facebook users , Arabic-speaking Facebook users and Facebook users.

Statistiques d'incidents

ID
72
Nombre de rapports
26
Date de l'incident
2017-10-17
Editeurs
Sean McGregor, Khoa Lam

Classifications de taxonomie CSETv0

Détails de la taxonomie

Full Description

Facebook's automatic language translation software incorrectly translated an Arabic post saying "Good morning" into Hebrew saying "hurt them," leading to the arrest of a Palestinian man in Beitar Illit, Israel. The post was not read by any Arabic-speaking officers before the arrest was made. The man was posted the words along with a picture of him leaning on a bulldozer, which are sometimes used in terrorist attacks, therefore the conclusion made he was inciting violence. Facebook's automatic language translation software can translate 40 languages in 1,800 directions, and posts the translation instead of the original when confident the translation is correct.

Short Description

Facebook's automatic language translation software incorrectly translated an Arabic post saying "Good morning" into Hebrew saying "hurt them," leading to the arrest of a Palestinian man in Beitar Illit, Israel.

Severity

Moderate

Harm Type

Psychological harm, Harm to civil liberties

AI System Description

Facebook's automatic language translation software that can translate 40 languages in 1,800 directions

System Developer

Facebook

Sector of Deployment

Information and communication

Relevant AI functions

Perception, Cognition, Action

AI Techniques

natural language processing

AI Applications

language translation

Location

Beitar Illit, Israel

Named Entities

Israeli Police, Facebook, Beitar Illit, Israel

Technology Purveyor

Facebook

Beginning Date

2017-10-15

Ending Date

2017-10-15

Near Miss

Harm caused

Intent

Accident

Lives Lost

No

Data Inputs

User posts/input

Classifications de taxonomie GMF

Détails de la taxonomie

Known AI Goal

Translation

Known AI Technology

Convolutional Neural Network, Recurrent Neural Network, Distributional Learning

Potential AI Technology

Intermediate modeling, Classification, Multimodal Learning, Image Classification

Known AI Technical Failure

Dataset Imbalance, Distributional Bias

Potential AI Technical Failure

Generalization Failure

Classifications de taxonomie CSETv1

Détails de la taxonomie

Harm Distribution Basis

none

Sector of Deployment

information and communication

privacyinternational.org · 2017

Une erreur dans le service de traduction automatique de Facebook a conduit à l'arrestation et à l'interrogatoire d'un Palestinien par la police israélienne. L'homme, un ouvrier du bâtiment en Cisjordanie, a posté une photo de lui appuyé con…

La police israélienne arrête un Palestinien pour une publication sur Facebook
dailymail.co.uk · 2017

La police israélienne a arrêté par erreur un Palestinien qui avait posté en ligne « bonjour » en arabe, ce que Facebook a traduit à tort par « attaquez-les ».

L'homme a mis en ligne une photo de lui appuyé contre un bulldozer dans la coloni…

Israël arrête un Palestinien parce que Facebook a traduit "Bonjour" en "Attaquez-les"
haaretz.com · 2017

La police israélienne a arrêté par erreur un travailleur palestinien la semaine dernière parce qu'elle s'est appuyée sur un logiciel de traduction automatique pour traduire un message qu'il a écrit sur sa page Facebook. Le Palestinien a été…

postcourier.com.pg · 2017

Suite à une gaffe de Facebook, un Palestinien a été arrêté par la police israélienne pour avoir publié « Good Morning » sur le site de médias sociaux.

Selon des informations, l'homme, un ouvrier du bâtiment, a dit "Bonjour" en arabe dans un…

La police israélienne arrête par erreur un Palestinien pour avoir écrit « bonjour » sur Facebook
independent.co.uk · 2017

Un Palestinien qui avait posté « bonjour » en arabe sur Facebook a été arrêté après que la police israélienne ait traduit par erreur son message par « attaquez-les ».

L'homme, qui n'a pas été nommé, a posté une photo de lui travaillant sur …

Un homme arrêté à cause d'une erreur de traduction sur Facebook
alphr.com · 2017

Un Palestinien a été arrêté par la police israélienne la semaine dernière, après qu'un message qu'il a laissé sur Facebook disant "bonjour" en arabe ait été interprété comme signifiant "attaquez-les" en hébreu.

Une porte-parole du district …

Un Palestinien arrêté par la police israélienne après que Facebook ait mal traduit son message "bonjour"
ibtimes.co.uk · 2017

Un Palestinien en Cisjordanie a été arrêté par la police israélienne après avoir écrit « bonjour » en arabe dans un message Facebook qui a été mal traduit par le logiciel de traduction automatique de l'entreprise. L'ouvrier du bâtiment Hala…

Israël : Une traduction bâclée de Facebook conduit un homme en prison ; « Bonjour » devient « Attaquez-les »
newsx.com · 2017

Le constructeur palestinien Halawim Halawi qui a posté « Bonjour » sur son compte Facebook, ce qui lui a valu quelques heures dans le cachot. Le logiciel de traduction automatique de Facebook qui a interprété le message comme signifiant "le…

Un homme arrêté après que Facebook ait traduit une salutation en menace
digitaltrends.com · 2017

Partager

La fonction de traduction automatique de Facebook permet aux utilisateurs de se connecter au-delà des barrières linguistiques, mais une traduction incorrecte d'un simple "bonjour" s'est avérée être un désastre pour un Palestinien. …

news.ycombinator.com · 2017

Hacker news discussion sur les excuses de Facebook.

Israël a arrêté un Palestinien après que Facebook ait traduit "Bonjour" par "Attaquez-les"
qz.com · 2017

Facebook dit qu'il traduit automatiquement environ 4,5 milliards de messages chaque jour. Avec de nouvelles recherches et avancées, la technologie ne cesse de s'améliorer, mais elle n'est pas parfaite et ses défauts peuvent avoir de graves …

Facebook traduit «bonjour» par «attaquez-les», conduisant à une arrestation
theguardian.com · 2017

Un Palestinien interrogé par la police israélienne après une erreur de traduction embarrassante de la légende sous la photo de lui appuyé contre un bulldozer

Facebook a présenté ses excuses après qu'une erreur dans son service de traduction…

Un homme arrêté pour avoir dit "bonjour" parce que le traducteur en ligne a fait une erreur
metro.co.uk · 2017

Un ouvrier du bâtiment a été arrêté après avoir posté "Bonjour" sur Facebook, car la traduction automatique s'était trompée.

Le Palestinien avait posté une photo au travail avec une cigarette et un café, ajoutant un salut à ses abonnés en a…

Facebook s'excuse après qu'une mauvaise traduction ait vu un Palestinien arrêté pour avoir posté "bonjour"
theverge.com · 2017

Facebook a présenté ses excuses après qu'un Palestinien a été arrêté par la police israélienne pour un message disant « bonjour » que son service de traduction automatique a traduit par erreur « attaquez-les » en hébreu et « blessez-les » e…

Un Palestinien arrêté après que Facebook ait traduit automatiquement "Bonjour" par "Attaquez-les"
gizmodo.com.au · 2017

Un ouvrier du bâtiment palestinien a été arrêté par la police israélienne après que Facebook ait mal traduit le texte de l'un de ses messages. Haaretz rapporte que l'homme a téléchargé une photo de son travail sur un chantier de constructio…

swordandscale.com · 2017

On dit qu'une image vaut mille mots, mais il n'en a fallu que deux pour qu'un Palestinien se retrouve arrêté après une erreur de traduction sur Facebook.

Un ouvrier du bâtiment de l'implantation cisjordanienne de Beitar Illit a pris une pho…

Un "bonjour" aurait fait arrêter un homme après une erreur de traduction sur Facebook
supernewsworld.com · 2017

Digital Trends a rapporté que la fonction de traduction automatique de Facebook permet aux utilisateurs de se connecter au-delà des barrières linguistiques, mais une traduction incorrecte d'un simple "bonjour" s'est avérée un peu désastreus…

dailydot.com · 2017

Aucun service de traduction n'est parfait, mais vous ne vous attendriez pas à ce qu'il vous fasse arrêter.

Facebook a admis qu'une erreur dans sa fonction de traduction automatique basée sur l'intelligence artificielle avait conduit à l'arr…

L'échec de l'IA de traduction automatique de Facebook mène au cauchemar d'un Palestinien
mashable.com · 2017

Les mauvaises traductions font souvent la bonne comédie, mais dans le cas de ce Palestinien, elles ont marqué le début d'un cauchemar.

La police israélienne a arrêté l'homme, un ouvrier du bâtiment dans une colonie de Cisjordanie près de Jé…

Cet homme a été arrêté pour avoir publié "Bonjour" sur Facebook
thealternativedaily.com · 2017

La police israélienne a accidentellement arrêté un Palestinien après avoir posté « Bonjour » en arabe sur Facebook, accompagné d'une photo de lui au travail.

L'homme travaillait sur un chantier de construction dans une colonie de Cisjordani…

Une mauvaise traduction de Facebook conduit à l'arrestation d'un Palestinien
tomedes.com · 2017

Ce n'est que la semaine dernière que nous avons discuté des failles de la traduction automatique. Dans ce cas, l'article portait sur les insultes raciales de l'application de messagerie WeChat. Maintenant, une nouvelle histoire a une fois d…

Un Palestinien arrêté après une erreur de traduction sur Facebook
forward.com · 2017

Un Palestinien a été arrêté par erreur en Israël après que le logiciel de traduction de Facebook ait transformé sa légende de photo « bonjour » en menace.

L'homme, qui travaille dans une colonie de Cisjordanie, a posté une photo de lui à cô…

translateplus.com · 2017

Certaines erreurs causées par la traduction automatique sont assez inoffensives ; d'autres pas tellement. Les faux-pas de langage occasionnels peuvent être bons pour rire, mais on ne sait jamais quand un incident apparemment inoffensif peut…

Un homme arrêté après que le message "bonjour" ait été mal traduit par Facebook comme "attaquez-les"
forum.facepunch.com · 2018

[CITATION] La police israélienne a arrêté un Palestinien après que son message « bonjour » ait été traduit par Facebook par « attaquez-les ». La surveillance des médias sociaux combinée à la traduction erronée d'un message par l'IA de Faceb…

Messages mitigés ? Les limites de l'analyse automatisée du contenu des médias sociaux
cdt.org · 2018

Les gouvernements et les entreprises se tournent vers des outils automatisés pour donner un sens à ce que les gens publient sur les réseaux sociaux. Les décideurs demandent régulièrement aux entreprises de médias sociaux d'identifier et de …

Une traduction de Google n'est pas une preuve suffisante pour envoyer quelqu'un en prison, trouve le juge dans une affaire de stupéfiants (GOOG, GOOGL)
finance.yahoo.com · 2018

Greg Sandoval / Business Insider

Un homme du Mexique a été arrêté sur l'autoroute du Kansas et a été soupçonné de transporter de la drogue.

Avec l'aide de Google Translate, le soldat de Kansas Highway a demandé à l'homme en espagnol s'il po…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.