Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 1301

Incidents associés

Incident 7226 Rapports
Facebook translates 'good morning' into 'attack them', leading to arrest

Loading...
Cet homme a été arrêté pour avoir publié "Bonjour" sur Facebook
thealternativedaily.com · 2017

La police israélienne a accidentellement arrêté un Palestinien après avoir posté « Bonjour » en arabe sur Facebook, accompagné d'une photo de lui au travail.

L'homme travaillait sur un chantier de construction dans une colonie de Cisjordanie près de Jérusalem et a posé avec une photo d'un bulldozer dans le poteau. Le logiciel de traduction automatique de Facebook a traduit le message par "les attaquer" en hébreu et "les blesser" en anglais.

Selon le journal israélien Haaretz, aucun policier arabophone n'a lu le message avant l'arrestation de l'homme. Après interrogatoire, les policiers ont réalisé leur erreur et ont relâché l'homme quelques heures plus tard. À ce moment-là, la police a convenu que la traduction correcte était "bonjour".

Facebook s'est également rapidement excusé pour l'erreur, a rapporté Gizmodo. "Malheureusement, nos systèmes de traduction ont commis une erreur la semaine dernière qui a mal interprété ce que cet individu a publié", a déclaré Necip Fazil Ayan, responsable de l'ingénierie au sein du groupe des technologies linguistiques de Facebook. "Nous nous excusons auprès de lui et de sa famille pour l'erreur et les perturbations que cela a causées."

Facebook a commencé à utiliser son système de traduction IA en 2015, avec des traductions disponibles depuis 2011. Dans ce cas, des arabophones ont expliqué à Haaretz que la translittération anglaise utilisée par Facebook n'était pas un vrai mot en arabe, mais qu'elle pouvait ressembler au verbe " blesser », même si « tout arabophone pouvait clairement voir que la translittération ne correspondait pas à la traduction ».

Facebook commence à utiliser son propre système de traduction

Depuis l'année dernière, Facebook traduit deux milliards d'extraits de texte par jour. L'application peut traduire 40 langues dans 1 800 directions (comme le français vers l'anglais ou le japonais vers l'espagnol). Selon TechCrunch, quelque 800 millions d'utilisateurs - près de la moitié du nombre total de personnes utilisant Facebook - voient au moins quelques traductions chaque mois.

L'avantage pour Facebook d'utiliser son propre système de traduction est qu'il peut avoir plus de contrôle sur les fils d'actualité des gens, en comprenant la signification derrière le texte et les images. Par exemple, si Facebook comprend qu'un message recherche des recommandations de sites à visiter à Rome, peu importe si un message est en indonésien, arabe ou mandarin, il peut suggérer à des amis de demander cette recommandation.

Désormais, lorsque Facebook est convaincu que sa traduction est correcte, il affiche automatiquement cette traduction, avec une option pour "afficher l'original".

Cependant, la traduction de l'IA dépend de l'apprentissage des utilisations les plus courantes des mots, et la plupart des locuteurs bilingues ou multilingues trouvent que les traductions de Google et Facebook font très défaut.

"Avoir une machine aussi intelligente qu'un humain et tenir une conversation - où vous avez en fait une contrepartie significative - c'est encore assez de la science-fiction pour le moment", a déclaré Philip Koehn, professeur à l'Université Johns Hopkins qui a étudié la traduction automatique.

Alors, la police a-t-elle eu raison d'intervenir et d'arrêter cet utilisateur de Facebook ? Faites-nous savoir dans les commentaires ci-dessous!

— Tamara Pearson

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd