Incidents associés
En 2020, Uma Mirkhail a eu une démonstration directe des dommages causés par une mauvaise traduction.
Traductrice de crise spécialisée dans les langues afghanes, Mirkhail travaillait avec un réfugié de langue pachtoune qui avait fui l'Afghanistan. Un tribunal américain avait rejeté la demande d'asile de la réfugiée parce que sa demande écrite ne correspondait pas à l'histoire racontée lors des premiers entretiens.
Lors des entretiens, la réfugiée avait d'abord soutenu qu'elle avait survécu à un événement particulier seule, mais la déclaration écrite semblait faire référence à d'autres personnes avec elle à l'époque – un écart suffisamment important pour qu'un juge rejette sa demande d'asile.
Après que Mirkhail ait parcouru les documents, elle a vu ce qui n'allait pas : un outil de traduction automatique avait remplacé les pronoms « je » dans la déclaration de la femme par « nous ».
Mirkhail travaille avec Respond Crisis Translation, une coalition de plus de 2 500 traducteurs qui fournit des services d'interprétation et de traduction aux migrants et demandeurs d'asile du monde entier. Elle a dit _Rest of World _ce genre de petite erreur peut changer la vie d'un réfugié. Suite au retour au pouvoir des talibans en Afghanistan, il existe une demande urgente de traducteurs de crise travaillant dans des langues telles que le pashto et le dari. Travaillant aux côtés des réfugiés, ces traducteurs peuvent aider les clients à naviguer dans des systèmes d'immigration complexes, y compris la rédaction de formulaires d'immigration tels que les demandes d'asile. Mais une nouvelle génération d'outils de traduction automatique modifie le paysage de ce domaine et ajoute un nouvel ensemble de risques pour les réfugiés.
La traduction automatique est en plein essor depuis l'introduction des techniques de réseaux de neurones, similaires à celles utilisées dans l'intelligence artificielle générative. En 2016, Google a lancé son premier système de traduction automatique neuronale. Aujourd'hui, lors du sous-titrage de films pour des sociétés de diffusion en continu ou de la rédaction de documents pour des cabinets d'avocats, certaines des sociétés de traduction mondiales les plus établies utilisent la traduction automatique neuronale dans leur flux de travail afin de réduire les coûts et d'augmenter la productivité. Mais comme la nouvelle génération de chatbots IA, les outils de traduction automatique sont loin d'être parfaits, et les erreurs qu'ils introduisent peuvent avoir de graves conséquences.
Les entreprises travaillant dans cet espace reconnaissent généralement le danger de l'automatisation pure et insistent pour que leurs outils ne soient utilisés que sous une surveillance humaine étroite. "Les traductions par apprentissage automatique ne sont pas encore totalement fiables sans examen humain", a déclaré Sara Haj-Hassan, directrice des opérations de Tarjimly, une startup à but non lucratif qui met en relation des réfugiés et des demandeurs d'asile avec des traducteurs et des interprètes bénévoles humains, pour Rest du monde. "Agir ainsi serait irresponsable et conduirait à des opportunités inéquitables pour les populations recevant des traductions d'IA, car des erreurs de traduction pourraient entraîner le rejet de cas ou d'autres conséquences graves."
La demande non satisfaite, cependant, est indéniable. Tarjimly, qui travaille actuellement avec plus de 250 paires de langues, a vu le nombre de demandes de langues afghanes multiplié par quatre en 2022, selon le rapport d'impact de l'organisation.
Des préoccupations similaires ont été soulevées concernant les outils d'IA générative. OpenAI, la société qui fabrique ChatGPT, a mis à jour ses politiques d'utilisation fin mars avec des règles interdisant l'utilisation du chatbot IA dans les "décisions gouvernementales à haut risque- fabrication », y compris le travail lié à la fois à la migration et à l'asile.
Les enjeux liés à l'obtention de traductions correctes peuvent être graves pour les demandeurs d'asile qui remplissent des demandes. "L'une des choses que nous voyons fréquemment est de signaler de petits détails techniques sur les demandes d'asile", a déclaré Ariel Koren, le fondateur de Respond Crisis Translation, au Reste du monde. "C'est pourquoi vous avez besoin d'une attention humaine. La machine, cela peut être votre ami que vous utilisez comme aide, mais si vous l'utilisez comme [solution] ultime, si c'est là que ça commence et se termine, vous êtes va échouer cette personne."
Cela est particulièrement vrai pour le travail avec les réfugiés afghans qui parlent le pachto et le dari, langues indigènes de dizaines de millions d'Afghans dans le monde. Le Haut-Commissariat des Nations Unies pour les réfugiés (HCR) estime que plus de 6 millions d'Afghans ont été déplacés à la fin de 2021 seulement, y compris les personnes déplacées à la suite du retrait américain d'Afghanistan et du retour au pouvoir des talibans. Dans le même temps, les outils linguistiques de l'IA pour le pashto ont pris du retard par rapport aux langues plus dominantes comme l'anglais et le mandarin. Ces dernières sont considérées comme des langues "à ressources élevées", avec une grande quantité de textes disponibles en ligne [par rapport à une langue comme le pachto](https://assets.researchsquare.com/files/rs-2712906/v1/d5f4c4fb-0857- 443f-a364-087bee375243.pdf?c=1679678570).
Il est difficile de dire à quel point la traduction automatique est répandue dans le système d'immigration, mais il existe des preuves claires qu'elle est utilisée. En 2019, [ProPublica a rapporté](https://www.propublica.org/article/google-says-google-translate-cant-replace-human-translators-immigration-officials-have-used-it-to-vet- réfugiés) que les agents des services de citoyenneté et d'immigration des États-Unis (USCIS) ont été chargés d'utiliser Google Traduction pour vérifier les comptes de médias sociaux des demandeurs d'asile. Les principales sociétés de traduction comme LanguageLine, TransPerfect et Lionbridge ont des contrats avec les agences fédérales américaines de l'immigration, dont certains totalisent des millions de dollars. Chacune de ces sociétés annonce la traduction automatique dans sa suite de services. En fin de compte, il appartient à chaque agence et département d'opter ou non pour ces outils dans leurs opérations quotidiennes.
Dans le même temps, les fournisseurs incitent activement les organisations de réfugiés à intégrer la traduction automatique dans leur travail. International Refugee Assistance Project (IRAP), une organisation à but non lucratif qui offre une assistance juridique aux réfugiés en Afghanistan et au Pakistan, a reçu plusieurs e-mails de sollicitation d'un entrepreneur gouvernemental à but lucratif concernant la traduction automatique.
L'un de ces e-mails, envoyé par la société de traduction basée au Royaume-Uni The Big Word, présentait WordSynk : le produit phare de la société, décrit sur son site Web comme "utilisant la traduction automatique, l'IA et la mémoire de traduction pour tirer parti de résultats rentables et de haute qualité". " L'IRAP n'a jamais répondu à l'argumentaire de vente de The Big Word, mais la société compte parmi ses clients le département américain de la Défense, l'armée américaine et le ministère britannique de la Justice. Un document interne, examiné par Rest of World, répertorie le pachto et le dari parmi les offres de "langue de base" de The Big Word pour les clients gouvernementaux.
The Big Word n'a pas répondu à la demande de commentaire de Rest of World.
Qu'elles soient automatisées ou non, les fautes de traduction en pachto et en dari sont devenues monnaie courante. Pas plus tard qu'au début du mois d'avril, l'ambassade d'Allemagne en Afghanistan a publié un tweet en pachtoune dénonçant l'interdiction faite aux femmes de travailler par les talibans. Le tweet a été rapidement ridiculisé par les locuteurs natifs, avec quelques tweets de citation affirmant qu'aucune phrase n'était lisible.
"Veuillez ne pas insulter notre langue. Des milliers [de] Pachtounes vivent en Allemagne mais ils n'engagent toujours pas d'expert pour le pachtoune", a posté un utilisateur, le chercheur Afzal Zarghoni. L'ambassade d'Allemagne a ensuite supprimé le tweet.
Des erreurs de traduction apparemment insignifiantes peuvent parfois entraîner des distorsions préjudiciables lors de la rédaction des demandes d'asile.
"La [traduction automatique] n'a pas de conscience culturelle. Surtout si vous faites des choses comme une déclaration personnelle écrite à la main par quelqu'un", a déclaré Damian Harris-Hernandez, co-fondateur du Refugee Translation Project, au Reste du monde . "La personne peut ne pas être parfaite en écriture, et peut également utiliser des métaphores, utiliser des idiomes, des tournures de phrases qui, si vous les prenez littéralement, n'ont aucun sens."
Basé à New York, le Refugee Translation Project travaille intensivement avec les réfugiés afghans, traduisant des rapports de police, des coupures de presse et des témoignages personnels pour renforcer les affirmations selon lesquelles les demandeurs d'asile ont une crainte crédible de persécution. Lorsque la traduction automatique est utilisée pour rédiger ces documents, les angles morts culturels et les incapacités à comprendre les expressions familières régionales peuvent introduire des inexactitudes. Ces erreurs peuvent compromettre les demandes dans le cadre de l'examen rigoureux que subissent tant de réfugiés afghans.
Dari et Pashto sont actuellement les langues les plus demandées par Refugee Translation Project, selon Harris-Hernandez. Malgré la demande, l'organisation refuse d'utiliser des outils de traduction automatisés, s'appuyant exclusivement sur des traducteurs humains.
"Il n'y a pas vraiment beaucoup d'avantages à la [traduction automatique]. L'avantage vient si vous ne connaissez pas la langue et que vous essayez de traduire quelque chose pour un client", a déclaré Harris-Hernandez, expliquant que les incitations semblent différents pour son organisation par rapport à de nombreux fournisseurs à but lucratif. "La seule chose qui compte, c'est l'argent qui rentre."
Muhammed Yaseen, membre de l'équipe afghane de Respond Crisis Translation, a déclaré au Reste du monde que les organisations interdisent l'utilisation de la traduction automatique pour une bonne raison. Il affirme que les machines-outils qu'il a testées sont incapables de traduire certains mots, tels que les termes désignant certains parents dans les dialectes dari, et des mots spécialisés comme les grades militaires qui peuvent être vitaux pour les demandes d'asile d'anciens soldats alliés aux États-Unis.
"Si nous utilisons des machines pour les Afghans, je pense que nous serions injustes envers eux", a déclaré Yaseen. "J'ai vraiment l'impression que si nous nous appuyons sur des machines, je m'attends à ce qu'au moins 40 % de nos décisions concernant les demandes d'asile pour les réfugiés soient incorrectes."