Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Incident 72: Facebook translates 'good morning' into 'attack them', leading to arrest

Description: Facebook's automatic language translation software incorrectly translated an Arabic post saying "Good morning" into Hebrew saying "hurt them," leading to the arrest of a Palestinian man in Beitar Illit, Israel.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Présumé : Un système d'IA développé et mis en œuvre par Facebook, a endommagé unnamed Palestinian Facebook user , Palestinian Facebook users , Arabic-speaking Facebook users et Facebook users.

Statistiques d'incidents

ID
72
Nombre de rapports
26
Date de l'incident
2017-10-17
Editeurs
Sean McGregor, Khoa Lam
Applied Taxonomies
CSETv0, GMF, CSETv1, MIT

Classifications de taxonomie CSETv0

Détails de la taxonomie

Problem Nature

Indicates which, if any, of the following types of AI failure describe the incident: "Specification," i.e. the system's behavior did not align with the true intentions of its designer, operator, etc; "Robustness," i.e. the system operated unsafely because of features or changes in its environment, or in the inputs the system received; "Assurance," i.e. the system could not be adequately monitored or controlled during operation.
 

Specification

Physical System

Where relevant, indicates whether the AI system(s) was embedded into or tightly associated with specific types of hardware.
 

Software only

Level of Autonomy

The degree to which the AI system(s) functions independently from human intervention. "High" means there is no human involved in the system action execution; "Medium" means the system generates a decision and a human oversees the resulting action; "low" means the system generates decision-support output and a human makes a decision and executes an action.
 

High

Nature of End User

"Expert" if users with special training or technical expertise were the ones meant to benefit from the AI system(s)’ operation; "Amateur" if the AI systems were primarily meant to benefit the general public or untrained users.
 

Amateur

Public Sector Deployment

"Yes" if the AI system(s) involved in the accident were being used by the public sector or for the administration of public goods (for example, public transportation). "No" if the system(s) were being used in the private sector or for commercial purposes (for example, a ride-sharing company), on the other.
 

No

Data Inputs

A brief description of the data that the AI system(s) used or were trained on.
 

User posts/input

Classifications de taxonomie GMF

Détails de la taxonomie

Known AI Goal Snippets

One or more snippets that justify the classification.
 

(Snippet Text: The large number of dialects in use around the world means that Arabic is particularly difficult for machine translation services to handle, and mistakes are a regular occurrence., Related Classifications: Translation), (Snippet Text: Facebook’s translations are entirely powered by AI, and around 4.5 billion translations are made each day across the social network. , Related Classifications: Translation)

Known AI Goal Classification Discussion

Free text with comments justifying the chosen classification (e.g. based on information on selected snippets and technical analysis), if needed.
 

Translation: Presumably the arabic dialect in the text is not represented adequately in the training data, hence the translation performance issues.

Classifications de taxonomie CSETv1

Détails de la taxonomie

Incident Number

The number of the incident in the AI Incident Database.
 

72

AI Tangible Harm Level Notes

Notes about the AI tangible harm level assessment
 

A Palestinian man was arrested and questioned for several hours due to translation error on Facebook.

Special Interest Intangible Harm

An assessment of whether a special interest intangible harm occurred. This assessment does not consider the context of the intangible harm, if an AI was involved, or if there is characterizable class or subgroup of harmed entities. It is also not assessing if an intangible harm occurred. It is only asking if a special interest intangible harm occurred.
 

yes

Date of Incident Year

The year in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the year, estimate. Otherwise, leave blank. Enter in the format of YYYY
 

2017

Date of Incident Month

The month in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the month, estimate. Otherwise, leave blank. Enter in the format of MM
 

10

Estimated Date

“Yes” if the data was estimated. “No” otherwise.
 

No

Classifications de taxonomie MIT

Machine-Classified
Détails de la taxonomie

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

7.3. Lack of capability or robustness

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. AI system safety, failures, and limitations

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Rapports d'incidents

Chronologie du rapport

+21
Une erreur d'IA de traduction automatique sur Facebook entraîne l'arrestation d'un Palestinien
Un Palestinien arrêté après une erreur de traduction sur FacebookComment une erreur de traduction automatique de Facebook a fait arrêter un innocentUn homme arrêté après que le message "bonjour" ait été mal traduit par Facebook comme "attaquez-les"Messages mitigés ? Les limites de l'analyse automatisée du contenu des médias sociauxUne traduction de Google n'est pas une preuve suffisante pour envoyer quelqu'un en prison, trouve le juge dans une affaire de stupéfiants (GOOG, GOOGL)
Une erreur d'IA de traduction automatique sur Facebook entraîne l'arrestation d'un Palestinien

Une erreur d'IA de traduction automatique sur Facebook entraîne l'arrestation d'un Palestinien

privacyinternational.org

La police israélienne arrête un Palestinien pour une publication sur Facebook

La police israélienne arrête un Palestinien pour une publication sur Facebook

dailymail.co.uk

Israël arrête un Palestinien parce que Facebook a traduit "Bonjour" en "Attaquez-les"

Israël arrête un Palestinien parce que Facebook a traduit "Bonjour" en "Attaquez-les"

haaretz.com

Un Palestinien arrêté pour avoir dit « bonjour » sur Facebook

Un Palestinien arrêté pour avoir dit « bonjour » sur Facebook

postcourier.com.pg

La police israélienne arrête par erreur un Palestinien pour avoir écrit « bonjour » sur Facebook

La police israélienne arrête par erreur un Palestinien pour avoir écrit « bonjour » sur Facebook

independent.co.uk

Un homme arrêté à cause d'une erreur de traduction sur Facebook

Un homme arrêté à cause d'une erreur de traduction sur Facebook

alphr.com

Un Palestinien arrêté par la police israélienne après que Facebook ait mal traduit son message "bonjour"

Un Palestinien arrêté par la police israélienne après que Facebook ait mal traduit son message "bonjour"

ibtimes.co.uk

Israël : Une traduction bâclée de Facebook conduit un homme en prison ; « Bonjour » devient « Attaquez-les »

Israël : Une traduction bâclée de Facebook conduit un homme en prison ; « Bonjour » devient « Attaquez-les »

newsx.com

Un homme arrêté après que Facebook ait traduit une salutation en menace

Un homme arrêté après que Facebook ait traduit une salutation en menace

digitaltrends.com

Facebook s'excuse après qu'une mauvaise traduction ait vu un Palestinien arrêté

Facebook s'excuse après qu'une mauvaise traduction ait vu un Palestinien arrêté

news.ycombinator.com

Israël a arrêté un Palestinien après que Facebook ait traduit "Bonjour" par "Attaquez-les"

Israël a arrêté un Palestinien après que Facebook ait traduit "Bonjour" par "Attaquez-les"

qz.com

Facebook traduit «bonjour» par «attaquez-les», conduisant à une arrestation

Facebook traduit «bonjour» par «attaquez-les», conduisant à une arrestation

theguardian.com

Un homme arrêté pour avoir dit "bonjour" parce que le traducteur en ligne a fait une erreur

Un homme arrêté pour avoir dit "bonjour" parce que le traducteur en ligne a fait une erreur

metro.co.uk

Facebook s'excuse après qu'une mauvaise traduction ait vu un Palestinien arrêté pour avoir posté "bonjour"

Facebook s'excuse après qu'une mauvaise traduction ait vu un Palestinien arrêté pour avoir posté "bonjour"

theverge.com

Un Palestinien arrêté après que Facebook ait traduit automatiquement "Bonjour" par "Attaquez-les"

Un Palestinien arrêté après que Facebook ait traduit automatiquement "Bonjour" par "Attaquez-les"

gizmodo.com.au

Un homme arrêté après une erreur de traduction sur Facebook

Un homme arrêté après une erreur de traduction sur Facebook

swordandscale.com

Un "bonjour" aurait fait arrêter un homme après une erreur de traduction sur Facebook

Un "bonjour" aurait fait arrêter un homme après une erreur de traduction sur Facebook

supernewsworld.com

Facebook s'excuse après que l'échec de la traduction ait conduit à une fausse arrestation

Facebook s'excuse après que l'échec de la traduction ait conduit à une fausse arrestation

dailydot.com

L'échec de l'IA de traduction automatique de Facebook mène au cauchemar d'un Palestinien

L'échec de l'IA de traduction automatique de Facebook mène au cauchemar d'un Palestinien

mashable.com

Cet homme a été arrêté pour avoir publié "Bonjour" sur Facebook

Cet homme a été arrêté pour avoir publié "Bonjour" sur Facebook

thealternativedaily.com

Une mauvaise traduction de Facebook conduit à l'arrestation d'un Palestinien

Une mauvaise traduction de Facebook conduit à l'arrestation d'un Palestinien

tomedes.com

Un Palestinien arrêté après une erreur de traduction sur Facebook

Un Palestinien arrêté après une erreur de traduction sur Facebook

forward.com

Comment une erreur de traduction automatique de Facebook a fait arrêter un innocent

Comment une erreur de traduction automatique de Facebook a fait arrêter un innocent

translateplus.com

Un homme arrêté après que le message "bonjour" ait été mal traduit par Facebook comme "attaquez-les"

Un homme arrêté après que le message "bonjour" ait été mal traduit par Facebook comme "attaquez-les"

forum.facepunch.com

Messages mitigés ? Les limites de l'analyse automatisée du contenu des médias sociaux

Messages mitigés ? Les limites de l'analyse automatisée du contenu des médias sociaux

cdt.org

Une traduction de Google n'est pas une preuve suffisante pour envoyer quelqu'un en prison, trouve le juge dans une affaire de stupéfiants (GOOG, GOOGL)

Une traduction de Google n'est pas une preuve suffisante pour envoyer quelqu'un en prison, trouve le juge dans une affaire de stupéfiants (GOOG, GOOGL)

finance.yahoo.com

Une erreur d'IA de traduction automatique sur Facebook entraîne l'arrestation d'un Palestinien
privacyinternational.org · 2017
Traduit par IA

Une erreur dans le service de traduction automatique de Facebook a conduit à l'arrestation et à l'interrogatoire d'un Palestinien par la police israélienne. L'homme, un ouvrier du bâtiment en Cisjordanie, a posté une photo de lui appuyé con…

La police israélienne arrête un Palestinien pour une publication sur Facebook
dailymail.co.uk · 2017
Traduit par IA

La police israélienne a arrêté par erreur un Palestinien qui avait posté en ligne « bonjour » en arabe, ce que Facebook a traduit à tort par « attaquez-les ».

L'homme a mis en ligne une photo de lui appuyé contre un bulldozer dans la coloni…

Israël arrête un Palestinien parce que Facebook a traduit "Bonjour" en "Attaquez-les"
haaretz.com · 2017
Traduit par IA

La police israélienne a arrêté par erreur un travailleur palestinien la semaine dernière parce qu'elle s'est appuyée sur un logiciel de traduction automatique pour traduire un message qu'il a écrit sur sa page Facebook. Le Palestinien a été…

Un Palestinien arrêté pour avoir dit « bonjour » sur Facebook
postcourier.com.pg · 2017
Traduit par IA

Suite à une gaffe de Facebook, un Palestinien a été arrêté par la police israélienne pour avoir publié « Good Morning » sur le site de médias sociaux.

Selon des informations, l'homme, un ouvrier du bâtiment, a dit "Bonjour" en arabe dans un…

La police israélienne arrête par erreur un Palestinien pour avoir écrit « bonjour » sur Facebook
independent.co.uk · 2017
Traduit par IA

Un Palestinien qui avait posté « bonjour » en arabe sur Facebook a été arrêté après que la police israélienne ait traduit par erreur son message par « attaquez-les ».

L'homme, qui n'a pas été nommé, a posté une photo de lui travaillant sur …

Un homme arrêté à cause d'une erreur de traduction sur Facebook
alphr.com · 2017
Traduit par IA

Un Palestinien a été arrêté par la police israélienne la semaine dernière, après qu'un message qu'il a laissé sur Facebook disant "bonjour" en arabe ait été interprété comme signifiant "attaquez-les" en hébreu.

Une porte-parole du district …

Un Palestinien arrêté par la police israélienne après que Facebook ait mal traduit son message "bonjour"
ibtimes.co.uk · 2017
Traduit par IA

Un Palestinien en Cisjordanie a été arrêté par la police israélienne après avoir écrit « bonjour » en arabe dans un message Facebook qui a été mal traduit par le logiciel de traduction automatique de l'entreprise. L'ouvrier du bâtiment Hala…

Israël : Une traduction bâclée de Facebook conduit un homme en prison ; « Bonjour » devient « Attaquez-les »
newsx.com · 2017
Traduit par IA

Le constructeur palestinien Halawim Halawi qui a posté « Bonjour » sur son compte Facebook, ce qui lui a valu quelques heures dans le cachot. Le logiciel de traduction automatique de Facebook qui a interprété le message comme signifiant "le…

Un homme arrêté après que Facebook ait traduit une salutation en menace
digitaltrends.com · 2017
Traduit par IA

Partager

La fonction de traduction automatique de Facebook permet aux utilisateurs de se connecter au-delà des barrières linguistiques, mais une traduction incorrecte d'un simple "bonjour" s'est avérée être un désastre pour un Palestinien. …

Facebook s'excuse après qu'une mauvaise traduction ait vu un Palestinien arrêté
news.ycombinator.com · 2017
Traduit par IA

Hacker news discussion sur les excuses de Facebook.

Israël a arrêté un Palestinien après que Facebook ait traduit "Bonjour" par "Attaquez-les"
qz.com · 2017
Traduit par IA

Facebook dit qu'il traduit automatiquement environ 4,5 milliards de messages chaque jour. Avec de nouvelles recherches et avancées, la technologie ne cesse de s'améliorer, mais elle n'est pas parfaite et ses défauts peuvent avoir de graves …

Facebook traduit «bonjour» par «attaquez-les», conduisant à une arrestation
theguardian.com · 2017
Traduit par IA

Un Palestinien interrogé par la police israélienne après une erreur de traduction embarrassante de la légende sous la photo de lui appuyé contre un bulldozer

Facebook a présenté ses excuses après qu'une erreur dans son service de traduction…

Un homme arrêté pour avoir dit "bonjour" parce que le traducteur en ligne a fait une erreur
metro.co.uk · 2017
Traduit par IA

Un ouvrier du bâtiment a été arrêté après avoir posté "Bonjour" sur Facebook, car la traduction automatique s'était trompée.

Le Palestinien avait posté une photo au travail avec une cigarette et un café, ajoutant un salut à ses abonnés en a…

Facebook s'excuse après qu'une mauvaise traduction ait vu un Palestinien arrêté pour avoir posté "bonjour"
theverge.com · 2017
Traduit par IA

Facebook a présenté ses excuses après qu'un Palestinien a été arrêté par la police israélienne pour un message disant « bonjour » que son service de traduction automatique a traduit par erreur « attaquez-les » en hébreu et « blessez-les » e…

Un Palestinien arrêté après que Facebook ait traduit automatiquement "Bonjour" par "Attaquez-les"
gizmodo.com.au · 2017
Traduit par IA

Un ouvrier du bâtiment palestinien a été arrêté par la police israélienne après que Facebook ait mal traduit le texte de l'un de ses messages. Haaretz rapporte que l'homme a téléchargé une photo de son travail sur un chantier de constructio…

Un homme arrêté après une erreur de traduction sur Facebook
swordandscale.com · 2017
Traduit par IA

On dit qu'une image vaut mille mots, mais il n'en a fallu que deux pour qu'un Palestinien se retrouve arrêté après une erreur de traduction sur Facebook.

Un ouvrier du bâtiment de l'implantation cisjordanienne de Beitar Illit a pris une pho…

Un "bonjour" aurait fait arrêter un homme après une erreur de traduction sur Facebook
supernewsworld.com · 2017
Traduit par IA

Digital Trends a rapporté que la fonction de traduction automatique de Facebook permet aux utilisateurs de se connecter au-delà des barrières linguistiques, mais une traduction incorrecte d'un simple "bonjour" s'est avérée un peu désastreus…

Facebook s'excuse après que l'échec de la traduction ait conduit à une fausse arrestation
dailydot.com · 2017
Traduit par IA

Aucun service de traduction n'est parfait, mais vous ne vous attendriez pas à ce qu'il vous fasse arrêter.

Facebook a admis qu'une erreur dans sa fonction de traduction automatique basée sur l'intelligence artificielle avait conduit à l'arr…

L'échec de l'IA de traduction automatique de Facebook mène au cauchemar d'un Palestinien
mashable.com · 2017
Traduit par IA

Les mauvaises traductions font souvent la bonne comédie, mais dans le cas de ce Palestinien, elles ont marqué le début d'un cauchemar.

La police israélienne a arrêté l'homme, un ouvrier du bâtiment dans une colonie de Cisjordanie près de Jé…

Cet homme a été arrêté pour avoir publié "Bonjour" sur Facebook
thealternativedaily.com · 2017
Traduit par IA

La police israélienne a accidentellement arrêté un Palestinien après avoir posté « Bonjour » en arabe sur Facebook, accompagné d'une photo de lui au travail.

L'homme travaillait sur un chantier de construction dans une colonie de Cisjordani…

Une mauvaise traduction de Facebook conduit à l'arrestation d'un Palestinien
tomedes.com · 2017
Traduit par IA

Ce n'est que la semaine dernière que nous avons discuté des failles de la traduction automatique. Dans ce cas, l'article portait sur les insultes raciales de l'application de messagerie WeChat. Maintenant, une nouvelle histoire a une fois d…

Un Palestinien arrêté après une erreur de traduction sur Facebook
forward.com · 2017
Traduit par IA

Un Palestinien a été arrêté par erreur en Israël après que le logiciel de traduction de Facebook ait transformé sa légende de photo « bonjour » en menace.

L'homme, qui travaille dans une colonie de Cisjordanie, a posté une photo de lui à cô…

Comment une erreur de traduction automatique de Facebook a fait arrêter un innocent
translateplus.com · 2017
Traduit par IA

Certaines erreurs causées par la traduction automatique sont assez inoffensives ; d'autres pas tellement. Les faux-pas de langage occasionnels peuvent être bons pour rire, mais on ne sait jamais quand un incident apparemment inoffensif peut…

Un homme arrêté après que le message "bonjour" ait été mal traduit par Facebook comme "attaquez-les"
forum.facepunch.com · 2018
Traduit par IA

[CITATION] La police israélienne a arrêté un Palestinien après que son message « bonjour » ait été traduit par Facebook par « attaquez-les ». La surveillance des médias sociaux combinée à la traduction erronée d'un message par l'IA de Faceb…

Messages mitigés ? Les limites de l'analyse automatisée du contenu des médias sociaux
cdt.org · 2018
Traduit par IA

Les gouvernements et les entreprises se tournent vers des outils automatisés pour donner un sens à ce que les gens publient sur les réseaux sociaux. Les décideurs demandent régulièrement aux entreprises de médias sociaux d'identifier et de …

Une traduction de Google n'est pas une preuve suffisante pour envoyer quelqu'un en prison, trouve le juge dans une affaire de stupéfiants (GOOG, GOOGL)
finance.yahoo.com · 2018
Traduit par IA

Greg Sandoval / Business Insider

Un homme du Mexique a été arrêté sur l'autoroute du Kansas et a été soupçonné de transporter de la drogue.

Avec l'aide de Google Translate, le soldat de Kansas Highway a demandé à l'homme en espagnol s'il po…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Images of Black People Labeled as Gorillas

When It Comes to Gorillas, Google Photos Remains Blind

Jun 2015 · 24 rapports
Biased Google Image Results

'Black teenagers' vs. 'white teenagers': Why Google's algorithm displays racist results

Mar 2016 · 18 rapports
Security Robot Drowns Itself in a Fountain

DC security robot quits job by drowning itself in a fountain

Jul 2017 · 30 rapports
Incident précédentProchain incident

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Images of Black People Labeled as Gorillas

When It Comes to Gorillas, Google Photos Remains Blind

Jun 2015 · 24 rapports
Biased Google Image Results

'Black teenagers' vs. 'white teenagers': Why Google's algorithm displays racist results

Mar 2016 · 18 rapports
Security Robot Drowns Itself in a Fountain

DC security robot quits job by drowning itself in a fountain

Jul 2017 · 30 rapports

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df