Incidents associés
Un ouvrier du bâtiment palestinien a été arrêté par la police israélienne après que Facebook ait mal traduit le texte de l'un de ses messages. Haaretz rapporte que l'homme a téléchargé une photo de son travail sur un chantier de construction avec le texte "bonjour" en arabe. Lorsque les agents ont utilisé le service de traduction automatique de Facebook pour lire le message, le texte a été mal traduit comme "les attaquer" en hébreu et "les blesser" en anglais.
Selon Haaretz, les arabophones ont déclaré que "la translittération anglaise utilisée par Facebook n'est pas un mot réel en arabe mais pourrait ressembler au verbe" blesser "- même si tout arabophone pouvait clairement voir que la translittération ne correspondait pas à la traduction". Aucun officier arabophone n'aurait vu le poste avant l'arrestation de l'homme. Il a été relâché après plusieurs heures d'interrogatoire.
Facebook utilisait à l'origine l'IA de traduction de Microsoft, mais a commencé à utiliser un logiciel de traduction propriétaire en 2016. Lorsqu'il a été contacté par Gizmodo, Necip Fazil Ayan, responsable de l'ingénierie au sein du groupe des technologies linguistiques de Facebook, a fourni la déclaration suivante :
Malheureusement, nos systèmes de traduction ont commis une erreur la semaine dernière qui a mal interprété ce que cette personne a publié. Même si nos traductions s'améliorent chaque jour, des erreurs comme celles-ci peuvent se produire de temps en temps et nous avons pris des mesures pour résoudre ce problème particulier. Nous nous excusons auprès de lui et de sa famille pour l'erreur et les perturbations que cela a causées.
Sur la photo téléchargée avec le texte, un homme est appuyé contre un bulldozer sur un chantier de construction en Cisjordanie. Cela n'a fait qu'ajouter à la suspicion perçue, car des bulldozers ont été utilisés dans des attentats terroristes avec délit de fuite. Les Forces de défense israéliennes surveillent les médias sociaux des Palestiniens afin de détecter la radicalisation ou les attaques terroristes potentielles. La Cisjordanie est largement contrôlée par Israël, bien que des poches aient un contrôle conjoint israélo-palestinien et que le conflit sur des terres contestées se poursuive.
Facebook propose une suite complète de fonctionnalités qui, selon lui, peuvent aider les autorités à prévenir le terrorisme, de la vision par ordinateur à la surveillance des mots clés. Pourtant, les critiques avertissent depuis longtemps que ces tactiques peuvent être utilisées à mauvais escient par les pouvoirs de l'État comme moyen de surveillance ciblée. Dans ce cas, un simple malentendu aurait pu coûter son gagne-pain à un homme.