Problema 3229
Los investigadores afirman que los programas informáticos que se utilizan para detectar ensayos, solicitudes de empleo y otros trabajos generados por inteligencia artificial pueden discriminar a las personas que no son hablantes nativos de inglés.
Las pruebas realizadas en siete populares detectores de texto de IA encontraron que los artículos escritos por personas que no hablaban inglés como primer idioma a menudo eran etiquetados erróneamente como generados por IA, un sesgo que podría tener un impacto grave en estudiantes, académicos y solicitantes de empleo.
Con el surgimiento de ChatGPT, un programa de IA generativa que puede escribir ensayos, resolver problemas y crear códigos de computadora, muchos profesores ahora consideran la detección de IA como una "contramedida crítica". para disuadir una forma de trampa del siglo XXI”, dicen los investigadores, pero advierten que la precisión del 99% que afirman algunos detectores es “engañosa en el mejor de los casos”.
Los científicos dirigidos por James Zou, profesor asistente de ciencia de datos biomédicos en la Universidad de Stanford, ejecutaron 91 ensayos en inglés escritos por hablantes no nativos de inglés a través de siete populares detectores GPT para ver qué tan bien funcionaban los programas.
Más de la mitad de los ensayos, que fueron escritos para una prueba de dominio del inglés ampliamente reconocida conocida como Prueba de Inglés como Lengua Extranjera, o TOEFL, fueron marcados como generados por IA, y un programa marcó el 98% de los ensayos como compuestos por AI. Cuando se ejecutaron en los programas ensayos escritos por estudiantes nativos de octavo grado de habla inglesa en los EE. UU., los mismos detectores de IA clasificaron más del 90% como generados por humanos.
En un artículo en la revista Patterns, los científicos atribuyeron la discriminación a la forma en que los detectores evalúan qué es humano y qué es Generado por IA. Los programas analizan lo que se llama "perplejidad del texto", que es una medida de cuán "sorprendido" o "confundido" está un modelo de lenguaje generativo cuando intenta predecir la siguiente palabra en una oración. Si el modelo puede predecir la siguiente palabra fácilmente, la perplejidad del texto se califica como baja, pero si la siguiente palabra resulta difícil de predecir, la perplejidad del texto se califica como alta.
Los grandes modelos de lenguaje o LLM como ChatGPT están entrenados para producir textos con poca perplejidad, pero esto significa que si los humanos usan muchas palabras comunes en un patrón familiar en su escritura, su trabajo corre el riesgo de ser confundido con texto generado por IA. El riesgo es mayor entre los hablantes no nativos de inglés, dicen los investigadores, porque es más probable que adopten opciones de palabras más simples.
Después de resaltar el sesgo incorporado en los programas detectores de IA, los científicos volvieron a ChatGPT y le pidieron que reescribiera los ensayos del TOEFL utilizando un lenguaje más sofisticado. Cuando estos ensayos editados pasaron por los detectores de IA, todos fueron etiquetados como escritos por humanos. "Paradójicamente, los detectores de GPT podrían obligar a los escritores no nativos a utilizar más GPT para evadir la detección", dijeron.
"Las implicaciones de los detectores GPT para los escritores no nativos son graves y debemos reflexionar sobre ellas para evitar situaciones de discriminación", advirtieron los autores en la revista. Los detectores de IA podrían marcar falsamente las solicitudes universitarias y laborales como generadas por GPT, y marginar a los hablantes no nativos de inglés en Internet, porque los motores de búsqueda como Google degradan lo que se considera contenido generado por IA, advierten. "En educación, posiblemente el mercado más importante para los detectores GPT, los estudiantes no nativos corren más riesgos de sufrir acusaciones falsas de trampa, lo que puede ser perjudicial para la carrera académica y el bienestar psicológico del estudiante", agregaron los investigadores.
En un artículo adjunto, Jahna Otterbacher, del Centro de Transparencia Algorítmica de Chipre de la Universidad Abierta de Chipre, dijo: “En lugar de luchar contra la IA con más IA, debemos desarrollar una cultura académica que promueva el uso de la IA generativa de una manera creativa y ética. manera… ChatGPT recopila constantemente datos del público y aprende a complacer a sus usuarios; Con el tiempo, aprenderá a ser más astuto que cualquier detector”.