Incidents associés
Certaines erreurs causées par la traduction automatique sont assez inoffensives ; d'autres pas tellement. Les faux-pas de langage occasionnels peuvent être bons pour rire, mais on ne sait jamais quand un incident apparemment inoffensif peut causer de réels dommages. Le dernier exemple de traduction qui a mal tourné vient de Facebook après que son système de traduction automatique alimenté par l'IA a fait arrêter un ouvrier du bâtiment palestinien pour des activités terroristes présumées.
Oups.
Ce qui rappelle à nouveau à quel point il est important de faire contrôler et vérifier la traduction automatique par un professionnel.
La traduction automatique de Facebook fait arrêter un homme
L'infortuné Palestinien de cette histoire s'est rendu coupable d'un peu plus que d'avoir posté une photo de lui sur Facebook, appuyé contre un bulldozer. Sa légende disait simplement "??????" ou "Bonjour" en arabe et il n'y avait aucune allusion à quoi que ce soit qui aurait pu alerter les autorités sur une attaque terroriste potentielle.
Dans les nouvelles de la police prédictive : Israël a arrêté un Palestinien pour avoir publié une photo sur Facebook à côté d'un bulldozer disant « bonjour » simplement parce que Facebook a incorrectement traduit l'expression arabe par « blessez-les ». Article complet sur Haaretz – https://t.co/kk1A51BcUy pic.twitter.com/BUOVONWIrc – Asaf Lubin (@AsafLubin) 23 octobre 2017
C'était jusqu'à ce que l'IA de traduction automatique de Facebook interfère avec les choses. Au lieu de traduire la légende en "bonjour", Facebook a réussi à proposer "les attaquer" en hébreu et "les blesser" en anglais. Ce qui a sonné l'alarme auprès des autorités qui soupçonnaient que l'homme en question prévoyait d'utiliser le bulldozer dans un attentat terroriste avec délit de fuite.
Des bulldozers ont été utilisés dans le passé pour de telles attaques.
Homme libéré, leçon apprise
Une fois l'erreur de traduction automatique identifiée, l'homme a été relâché par la police. Il a depuis supprimé le message d'origine et négligé de parler à la presse de son épreuve de traduction sur Facebook. Facebook, en revanche, a été quelque peu obligé de faire une déclaration après avoir fait arrêter par inadvertance un innocent :
"Malheureusement, nos systèmes de traduction ont commis une erreur la semaine dernière qui a mal interprété ce que cet individu a publié. Même si nos traductions s'améliorent chaque jour, des erreurs comme celles-ci peuvent se produire de temps en temps et nous avons pris des mesures pour résoudre ce problème particulier. Nous nous excusons auprès de lui et de sa famille pour l'erreur et les perturbations que cela a causées. – Necip Fazil Ayan, directeur technique de Facebook.
Malheureusement, il n'y a pas grand-chose que l'homme arrêté pour la confusion aurait pu faire différemment. Traduire l'expression innocente "bonjour" en deux versions distinctes qui ont déclenché la sonnette d'alarme du terrorisme est une erreur assez grave. Ce qui souligne l'importance de faire vérifier la traduction automatique par des humains avant qu'elle ne soit mise en ligne.
Cela nous rappelle surtout qu'un simple amalgame de traduction automatique peut avoir de lourdes conséquences. Ce n'est pas l'erreur elle-même qui est un problème, mais les répercussions qui comptent. Dans cette affaire, un homme a été arrêté en vertu des lois antiterroristes et rapidement relâché. Cependant, toutes les erreurs de traduction ne sont pas réversibles, même si nous supposons que cette instance n'a pas eu d'effets durables. Dans des cas plus graves, des entreprises ont perdu des millions et des personnes ont même perdu la vie à cause d'erreurs de traduction automatique simples mais coûteuses.
Comme toujours, des erreurs se produiront. C'est pourquoi la traduction automatique doit toujours être contrôlée et vérifiée par des professionnels - tout comme les traductions humaines sont vérifiées par d'autres professionnels avant d'être mises en ligne. Réduire la fréquence et les conséquences des erreurs de traduction est vital, en particulier dans des domaines comme le droit et la médecine où la vie des gens est en jeu. En ce qui concerne la dernière erreur de traduction automatique de Facebook, le réseau se met lui-même sous les projecteurs juridiques si davantage de personnes sont arrêtées par inadvertance – ou pire – en raison de ses problèmes d'IA.
(Visité 177 fois, 1 visites aujourd'hui)