Incidentes Asociados
En respuesta a la creciente preocupación de los educadores sobre la capacidad de ChatGPT para ayudar a los estudiantes a hacer trampa, OpenAI lanzó el martes una herramienta que puede detectar texto escrito por IA. Sin embargo, la compañía dijo: “Nuestro clasificador no es completamente confiable”.
“En nuestras evaluaciones sobre un 'conjunto desafiante' de textos en inglés, nuestro clasificador identifica correctamente el 26 % del texto escrito por IA (verdaderos positivos) como 'probablemente escrito por IA', mientras que incorrectamente etiqueta el texto escrito por humanos como 9 % escrito por IA. de la época (falsos positivos)”, la empresa, que desarrolló ChatGPT, escribió en una publicación de blog.
El clasificador, que se entrenó en un conjunto de datos de texto escrito por humanos y escrito por IA sobre el mismo tema, aún no es confiable y solo se supone que complementa otras formas de determinar quién escribe un texto. Las limitaciones que tiene el clasificador, según OpenAI, incluyen ser poco confiable en textos cortos y peor rendimiento en otros idiomas.
OpenAI dijo que ha desarrollado recursos preliminares sobre el impacto de ChatGPT para los educadores, reconociendo que es importante reconocer "los límites y los impactos de los clasificadores de texto generados por IA en el aula".
Recientemente, los profesores de la NYU les dijeron a los estudiantes el primer día de clases que no se les permitió usar ChatGPT sin permiso explícito, diciendo que cualquier uso de la herramienta se consideraría plagio. Los profesores han ideado sus propias formas de detectar la escritura de IA para evitar cualquier tipo de trampa, como ejecutar sus indicaciones de ensayo a través de ChatGPT para tener un punto de referencia de cómo se vería un ensayo generado por IA.
Un estudiante de 22 años llamado Edward Tian desarrolló su propio detector ChatGPT, que se lanzó en versión beta a principios de este año y se lanzó en su totalidad como GPTZeroX el 29 de enero. En esta aplicación, puede insertar texto o cargar uno o más documentos a la vez y la aplicación generará una puntuación de cuánto del texto fue escrito por AI y resaltará las oraciones que fueron escritas por AI. Según Tian, la aplicación se equivocó menos del 2 por ciento de las veces cuando se probó en un conjunto de datos de artículos de noticias de la BBC y artículos generados por máquinas con el mismo mensaje, lo que haría que GPTZeroX aparentemente fuera más confiable que el propio detector de OpenAI.
OpenAI incluye un llamado a la acción en su publicación de blog, que ofrece a las personas directamente afectadas por el bot de lenguaje, "incluidos, entre otros, maestros, administradores, padres, estudiantes y proveedores de servicios educativos", para proporcionar retroalimentación a través de un Formulario de Google encuesta. A medida que ChatGPT se vuelve capaz de escribir de todo, desde ensayos universitarios hasta código, los maestros de todo el país intentan ajustar sus aulas en torno a la nueva tecnología y discutiendo cómo se puede usar la herramienta de una manera ética.
“Nosotros mismos no somos educadores, somos muy conscientes de eso, por lo que nuestros objetivos son realmente ayudar a equipar a los maestros para implementar estos modelos de manera efectiva dentro y fuera del aula”, dijo a CNN la directora de investigación de políticas de IA abierta [Lana Ahmad] (https://www.cnn.com/2023/01/31/tech/chatgpt-check-tool/index.html). “Eso significa darles el lenguaje para hablar al respecto, ayudarlos a comprender las capacidades y las limitaciones y luego, en segundo lugar, equipar a los estudiantes para navegar las complejidades que la IA ya está introduciendo en el mundo”.