Incidentes Asociados
Turnitin, más conocido por su software antiplagio utilizado por decenas de miles de universidades y escuelas de todo el mundo, está creando una herramienta para detectar texto generado por IA.
Los grandes modelos de lenguaje han cobrado fuerza desde el lanzamiento comercial de GPT-3 de OpenAI en 2020. Ahora [varias empresas] (https://www.theregister.com/2022/03/03/language_model_gpt3/) han creado su propio aprendizaje automático rival. sistemas, impulsando una nueva ola de nuevas empresas que desarrollan productos impulsados por IA generativa. Estos modelos funcionan como chatbots de propósito general. Los usuarios escriben instrucciones y responderán con pasajes de texto coherente y convincente.
Los estudiantes recurren cada vez más a las herramientas de inteligencia artificial para completar las tareas, mientras que los maestros apenas comienzan a considerar su impacto y papel en la educación. Las opiniones están divididas. Algunos creen que la tecnología puede perfeccionar las habilidades de escritura, mientras que otros lo ven como una trampa. Las escuelas de California, Nueva York, Virginia y Alabama han bloqueado el acceso de los alumnos al último modelo de ChatGPT en las redes públicas, [según](https://www.forbes.com/sites/ariannajohnson/2023/01/18/chatgpt- en-las-escuelas-aquí-dónde-está-prohibido-y-cómo-podría-ayudar-a-los-estudiantes/) a Forbes.
Los departamentos de educación no están muy seguros de qué políticas académicas deberían introducirse para regular el uso de generadores de texto de IA. Además, todas las reglas serían difíciles de hacer cumplir de todos modos teniendo en cuenta que actualmente no existe una forma efectiva de detectar el trabajo escrito por máquina. Entra en Turnitin. Fundada en 1998, la empresa estadounidense vende un software que calcula la similitud de un ensayo en particular con el contenido de una gran base de datos de artículos, páginas web y libros para buscar signos de plagio.
Turnitin fue adquirida por el gigante de los medios Advanced Publications por $1750 millones en 2019, y su software ha sido usado por 15.000 instituciones en 140 países. Con más de dos décadas de experiencia, Turnitin tiene un amplio alcance en la educación y ha acumulado un gran depósito de escritura de estudiantes, lo que la convierte en la compañía ideal para desarrollar un detector de texto académico de IA.
Turnitin ha estado construyendo silenciosamente el software durante años desde el lanzamiento de GPT-3, dijo Annie Chechitelli, directora de productos, a The Register. La prisa por brindarles a los educadores la capacidad de identificar texto escrito por humanos y computadoras se ha vuelto más intensa con el lanzamiento de su sucesor más poderoso, ChatGPT. A medida que la IA continúa progresando, las universidades y las escuelas deben poder proteger la integridad académica ahora más que nunca.
"La velocidad importa. Estamos escuchando a los maestros que nos dan algo", dijo Chechitelli. Turnitin espera lanzar su software en la primera mitad de este año. "Va a ser una detección bastante básica al principio, y luego lanzaremos lanzamientos rápidos posteriores que crearán un flujo de trabajo que sea más procesable para los maestros". El plan es hacer que el prototipo sea gratuito para sus clientes existentes a medida que la empresa recopila datos y comentarios de los usuarios.
"Al principio, realmente solo queremos ayudar a la industria y ayudar a los educadores a ponerse cómodos y sentirse más seguros. Y obtener el mayor uso posible desde el principio; eso es importante para hacer una herramienta exitosa. Más adelante, determinará cómo vamos a producirlo", dijo.
Aunque el texto generado por IA es convincente, hay signos reveladores que revelan la obra de un algoritmo. La escritura suele ser blanda y poco original; herramientas como ChatGPT regurgitan ideas y puntos de vista existentes y no tienen una voz distinta. Los humanos a veces pueden detectar texto generado por IA, pero las máquinas son mucho mejores en el trabajo.
El vicepresidente de IA de Turnitin, Eric Wang, dijo que hay patrones obvios en la escritura de IA que las computadoras pueden detectar. "Aunque a nosotros nos parezca humano, [las máquinas escriben usando] un mecanismo fundamentalmente diferente. Seleccionan la palabra más probable en la ubicación más probable, y esa es una forma muy diferente de construir el lenguaje [en comparación] con tú y yo", le dijo a The Register.
"Leemos saltando de un lado a otro sin siquiera darnos cuenta, o revoloteando de un lado a otro entre palabras, entre párrafos y, a veces, entre páginas. Pasamos de un lado a otro. También tendemos a escribir con un estado de ánimo futuro. . Puedo estar escribiendo, y estoy pensando en algo, un párrafo, una oración, un capítulo; el final del ensayo está vinculado en mi mente a la oración que estoy escribiendo aunque las oraciones entre ahora y entonces todavía no han terminado. para ser escrito."
ChatGPT, sin embargo, no tiene este tipo de flexibilidad y solo puede generar nuevas palabras basadas en oraciones anteriores, explicó. El detector de Turnitin funciona prediciendo qué palabras es más probable que genere la IA en un fragmento de texto determinado. "Estadísticamente es muy suave. Los humanos no tienden a usar constantemente una palabra de alta probabilidad en lugares de alta probabilidad, pero GPT-3 lo hace, por lo que nuestro detector realmente lo detecta", dijo.
Wang dijo que el detector de Turnitin se basa en la misma arquitectura que GPT-3 y lo describió como una versión en miniatura del modelo. "En muchos sentidos, yo diría que [diría] combatir el fuego con el fuego. Hay un componente detector adjunto en lugar de un componente de generación. Entonces, lo que está haciendo es leer el lenguaje exactamente de la misma manera que GPT-3 lee el lenguaje, pero en lugar de escupir más lenguaje, nos da una predicción de si creemos que este pasaje parece [es de] GPT-3".
La compañía aún está decidiendo cuál es la mejor manera de presentar los resultados de su detector a los maestros que usan la herramienta. "Es un desafío difícil. ¿Cómo le dices a un instructor en una pequeña cantidad de espacio lo que quiere ver?" dijo Chechitelli. Es posible que quieran ver un porcentaje que muestre qué parte de un ensayo parece estar escrito por IA, o pueden querer niveles de confianza que muestren si la confianza de predicción del detector es baja, media o alta para evaluar la precisión.
El software no está diseñado con el objetivo de prohibir ChatGPT en el mundo académico. Aunque podría disuadir a los estudiantes de usar este tipo de herramientas, Turnitin cree que su detector permitirá que los maestros y los estudiantes confíen entre sí y en la tecnología.
"Creo que hay un cambio importante en la forma en que creamos contenido y en la forma en que trabajamos", dijo Wang. "Ciertamente, eso se extiende a la forma en que aprendemos. Necesitamos pensar a largo plazo sobre cómo enseñamos. ¿Cómo aprendemos en un mundo donde existe esta tecnología? Creo que no se puede volver a poner el genio en la botella. Cualquier herramienta que da visibilidad al uso de estas tecnologías será valioso porque esos son los componentes básicos de la confianza y la transparencia".