Incidentes Asociados
En 2020, Uma Mirkhail obtuvo una demostración de primera mano de lo dañina que puede ser una mala traducción.
Mirkhail, traductor de crisis especializado en idiomas afganos, estaba trabajando con un refugiado de habla pastún que había huido de Afganistán. Un tribunal estadounidense había denegado la solicitud de asilo de la refugiada porque su solicitud escrita no coincidía con la historia contada en las entrevistas iniciales.
En las entrevistas, la refugiada había sostenido primero que había superado un evento en particular sola, pero la declaración escrita parecía hacer referencia a otras personas con ella en ese momento, una discrepancia lo suficientemente grande como para que un juez rechazara su solicitud de asilo.
Después de que Mirkhail revisó los documentos, vio lo que había salido mal: una herramienta de traducción automática había cambiado los pronombres "yo" en la declaración de la mujer por "nosotros".
Mirkhail trabaja con Respond Crisis Translation, una coalición de más de 2500 traductores que brinda servicios de interpretación y traducción para migrantes y solicitantes de asilo en todo el mundo. Ella le dijo a _Resto del mundo _este tipo de pequeño error puede cambiar la vida de un refugiado. A raíz del regreso de los talibanes al poder en Afganistán, existe una demanda urgente de traductores de crisis que trabajen en idiomas como el pastún y el dari. Trabajando junto a los refugiados, estos traductores pueden ayudar a los clientes a navegar por los complejos sistemas de inmigración, incluida la redacción de formularios de inmigración, como las solicitudes de asilo. Pero una nueva generación de herramientas de traducción automática está cambiando el panorama de este campo y agregando un nuevo conjunto de riesgos para los refugiados.
La traducción automática ha ido en aumento desde la introducción de técnicas de redes neuronales, similares a las que se utilizan en la inteligencia artificial generativa. En 2016, Google lanzó su primer sistema de traducción automática neuronal. Hoy en día, al subtitular películas para empresas de streaming o redactar documentos para bufetes de abogados, algunas de las empresas de traducción más consolidadas del mundo utilizan la traducción automática neuronal en su flujo de trabajo en un esfuerzo por reducir costes y aumentar la productividad. Pero al igual que la nueva generación de chatbots de IA, las herramientas de traducción automática están lejos de ser perfectas y los errores que introducen pueden tener graves consecuencias.
Las empresas que trabajan en este espacio generalmente reconocen el peligro de la automatización pura e insisten en que sus herramientas se utilicen solo bajo estrecha supervisión humana. "Las traducciones de aprendizaje automático aún no están en un lugar en el que se pueda confiar completamente sin revisión humana", dijo Sara Haj-Hassan, directora de operaciones de Tarjimly, una empresa emergente sin fines de lucro que conecta a refugiados y solicitantes de asilo con traductores e intérpretes voluntarios humanos, para Rest del mundo. "Hacerlo sería irresponsable y daría lugar a oportunidades desiguales para las poblaciones que reciben traducciones de IA, ya que las malas traducciones podrían provocar el rechazo de casos u otras consecuencias graves".
La demanda insatisfecha, sin embargo, es innegable. Tarjimly, que actualmente trabaja con más de 250 pares de idiomas, vio un aumento de cuatro veces en las solicitudes de idiomas afganos en 2022, según el informe de impacto de la organización.
Se han planteado preocupaciones similares sobre las herramientas de IA generativa. OpenAI, la empresa que fabrica ChatGPT, actualizó sus políticas de usuario a fines de marzo con reglas que prohíben el uso del chatbot de IA en "decisiones gubernamentales de alto riesgo". decisiones", incluido el trabajo relacionado con la migración y el asilo.
Lo que está en juego para que las traducciones sean correctas puede ser grave para los solicitantes de asilo que completan solicitudes. "Una de las cosas que vemos con frecuencia es señalar pequeños tecnicismos en las solicitudes de asilo", dijo Ariel Koren, fundador de Respond Crisis Translation, a Rest of World. "Es por eso que necesitas la atención humana. La máquina, puede ser tu amiga que usas como ayudante, pero si la estás usando como la [solución] definitiva, si ahí es donde comienza y termina, estás va a fallarle a esta persona".
Eso es particularmente cierto para el trabajo con refugiados afganos que hablan pashto y dari, idiomas nativos de decenas de millones de afganos en todo el mundo. El Alto Comisionado de las Naciones Unidas para los Refugiados (ACNUR) estima que más de 6 millones de afganos fueron desplazados solo a fines de 2021, incluidos los desplazados tras la retirada de Estados Unidos de Afganistán y el regreso al poder de los talibanes. Al mismo tiempo, las herramientas de lenguaje de IA para pashto se han quedado atrás con respecto a los idiomas más dominantes como el inglés y el mandarín. Estos últimos se consideran idiomas de "altos recursos", con una gran cantidad de textos disponibles en línea [en comparación con un idioma como el pashto] (https://assets.researchsquare.com/files/rs-2712906/v1/d5f4c4fb-0857- 443f-a364-087bee375243.pdf?c=1679678570).
Es difícil decir qué tan frecuente es la traducción automática en el sistema de inmigración, pero hay evidencia clara de que se está utilizando. En 2019, [ProPublica informó](https://www.propublica.org/article/google-says-google-translate-cant-replace-human-translators-immigration-officials-have-used-it-to-vet- refugiados) que los funcionarios del Servicio de Ciudadanía e Inmigración de los Estados Unidos (USCIS, por sus siglas en inglés) recibieron instrucciones de usar Google Translate para examinar las cuentas de redes sociales de los solicitantes de asilo. Las principales empresas de traducción como LanguageLine, TransPerfect y Lionbridge tienen contratos con las agencias federales de inmigración de EE. UU., algunos por un total de millones de dólares. Cada una de estas empresas anuncia la traducción automática en su conjunto de servicios. En última instancia, depende de cada agencia y departamento si acepta o no estas herramientas en sus operaciones diarias.
Al mismo tiempo, los proveedores están promoviendo activamente a las organizaciones de refugiados para que integren la traducción automática en su trabajo. International Refugee Assistance Project (IRAP), una organización sin fines de lucro que ofrece apoyo legal a refugiados en Afganistán y Pakistán, recibió múltiples correos electrónicos de solicitud de un contratista gubernamental con fines de lucro en relación con la traducción automática.
Uno de esos correos electrónicos, enviado por la empresa de traducción con sede en el Reino Unido The Big Word, presentó WordSynk: el producto insignia de la empresa, descrito en su sitio web como "que utiliza la traducción automática, la IA y la memoria de traducción para aprovechar resultados rentables y de alta calidad". " IRAP nunca respondió al argumento de venta de The Big Word, pero la empresa incluye al Departamento de Defensa de EE. UU., al Ejército de EE. UU. y al Ministerio de Justicia del Reino Unido entre sus clientes. Un documento interno, revisado por Rest of World, enumera el pashto y el dari entre las ofertas de "idioma principal" de The Big Word para clientes gubernamentales.
The Big Word no respondió a la solicitud de comentarios de Rest of World.
Ya sea automatizado o no, los errores de traducción en pashto y dari se han vuelto comunes. Recientemente, a principios de abril, la Embajada de Alemania en Afganistán publicó un tuit en pastún denunciando la prohibición de los talibanes de que las mujeres trabajen. El tweet fue rápidamente ridiculizado por los hablantes nativos, con algunos tweets de citas que afirmaban que ni una sola oración era legible.
"Por favor, no insulte nuestro idioma. Miles [de] Pashtun viven en Alemania, pero aún así no contratan a un experto en Pashto", publicó un usuario, el investigador Afzal Zarghoni. La embajada alemana luego borró el tuit.
Los errores de traducción aparentemente triviales a veces pueden dar lugar a distorsiones perjudiciales al redactar las solicitudes de asilo.
"[La traducción automática] no tiene una conciencia cultural. Especialmente si estás haciendo cosas como una declaración personal escrita a mano por alguien", dijo Damian Harris-Hernandez, cofundador de Refugee Translation Project, a Rest of World . "Es posible que la persona no sea perfecta para escribir y que también use metáforas, expresiones idiomáticas, giros de frases que, si se toman literalmente, no tienen ningún sentido".
Con sede en Nueva York, Refugee Translation Project trabaja extensamente con refugiados afganos, traduciendo informes policiales, recortes de prensa y testimonios personales para reforzar las afirmaciones de que los solicitantes de asilo tienen un temor creíble de persecución. Cuando se utiliza la traducción automática para redactar estos documentos, los puntos ciegos culturales y la falta de comprensión de los coloquialismos regionales pueden introducir imprecisiones. Estos errores pueden comprometer las reclamaciones en la revisión rigurosa que experimentan tantos refugiados afganos.
Dari y Pashto son actualmente los idiomas más solicitados por Refugee Translation Project, según Harris-Hernandez. A pesar de la demanda, la organización se niega a utilizar herramientas de traducción automática, apoyándose exclusivamente en traductores humanos.
"La [traducción automática] realmente no tiene muchas ventajas. La ventaja viene si no sabes el idioma y estás tratando de traducir algo para un cliente", dijo Harris-Hernandez, explicando que los incentivos lucir diferente para su organización en comparación con muchos proveedores con fines de lucro. "Lo único que importa es el dinero que entra".
Muhammed Yaseen, miembro del equipo afgano de Respond Crisis Translation, dijo Rest of World que las organizaciones están prohibiendo el uso de la traducción automática por una buena razón. Afirma que las máquinas herramienta que probó no pueden traducir ciertas palabras, como los términos para algunos parientes en dialectos dari, y palabras especializadas como rangos militares que pueden ser vitales para las solicitudes de asilo de ex soldados aliados de EE. UU.
"Si usamos máquinas para los afganos, creo que seríamos injustos con ellos", dijo Yaseen. "Realmente siento que si confiamos en las máquinas, [estoy] esperando que al menos el 40% de nuestra toma de decisiones sobre las solicitudes de asilo para refugiados sea incorrecta".