Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 1291

Incidents associés

Incident 7226 Rapports
Facebook translates 'good morning' into 'attack them', leading to arrest

Loading...
Facebook traduit «bonjour» par «attaquez-les», conduisant à une arrestation
theguardian.com · 2017

Un Palestinien interrogé par la police israélienne après une erreur de traduction embarrassante de la légende sous la photo de lui appuyé contre un bulldozer

Facebook a présenté ses excuses après qu'une erreur dans son service de traduction automatique a vu la police israélienne arrêter un Palestinien pour avoir posté "bonjour" sur son profil de réseau social.

L'homme, un ouvrier du bâtiment dans l'implantation cisjordanienne de Beitar Illit, près de Jérusalem, a posté une photo de lui appuyé contre un bulldozer avec la légende « يصبحهم », ou « yusbihuhum », qui se traduit par « bonjour ».

Mais le service de traduction basé sur l'intelligence artificielle de Facebook, qu'il a construit après s'être séparé de la traduction Bing de Microsoft en 2016, a plutôt traduit le mot en "les blesser" en anglais ou "les attaquer" en hébreu.

Des policiers ont arrêté l'homme plus tard dans la journée, selon le journal israélien Haaretz, après avoir été informés du message. Ils l'ont interrogé pendant plusieurs heures, soupçonnant qu'il prévoyait d'utiliser le bulldozer illustré dans une attaque de véhicule, avant de réaliser leur erreur. À aucun moment avant son arrestation, un officier arabophone n'a lu le message lui-même.

Facebook a déclaré qu'il examinait le problème et, dans une déclaration à Gizmodo, a ajouté : "Malheureusement, nos systèmes de traduction ont fait une erreur la semaine dernière qui a mal interprété ce que cet individu a publié.

« Même si nos traductions s'améliorent chaque jour, des erreurs comme celles-ci peuvent se produire de temps en temps et nous avons pris des mesures pour résoudre ce problème particulier. Nous nous excusons auprès de lui et de sa famille pour l'erreur et les perturbations que cela a causées.

L'arabe est considéré comme particulièrement difficile pour de nombreux services de traduction automatique en raison du grand nombre de dialectes différents utilisés dans le monde, en plus de l'arabe standard moderne, la forme internationale de la langue.

Les Forces de défense israéliennes ont été ouvertes sur la surveillance des comptes des médias sociaux des Palestiniens, à la recherche d'attaquants "loup solitaire" qui pourraient autrement passer à travers le filet. Il le ferait automatiquement, en utilisant des algorithmes pour rechercher des termes tels que "l'épée d'Allah".

Les erreurs de traduction automatique sont fréquentes pour quiconque utilise l'IA pour traduire des langues, en particulier celles qui ont peu de relations. Plus tôt ce mois-ci, le réseau social chinois WeChat s'est excusé après que son propre système de traduction automatique ait traduit une phrase neutre signifiant « étranger noir » comme mot n.

"Quand j'ai couru le traducteur, le mot n est apparu et j'étais estomaqué", a déclaré Ann James, qui avait envoyé des SMS avec un ami lorsque la traduction défectueuse est apparue.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd