Incidentes Asociados
A varios estudiantes de último año de Texas A&M University-Commerce que ya subieron al escenario en graduación este año se les negaron temporalmente sus diplomas después de que un profesor usó ineptamente IA software para evaluar sus tareas finales, el compañero de un estudiante en su clase, conocido como DearKick en Reddit, afirma a Rolling Stone.
El Dr. Jared Mumm, un instructor de rodeo del campus que también imparte clases de agricultura, envió un correo electrónico el lunes a un grupo de estudiantes informándoles que había enviado las calificaciones de sus últimos tres trabajos del semestre. Todo el mundo recibiría una "X" en el curso, explicó Mumm, porque había usado "Chat GTP" (el chatbot de OpenAI en realidad se llama "ChatGPT ”) para probar si habían usado el software para escribir los documentos, y el bot afirmó haber sido el autor de cada uno de ellos.
“Copio y pego sus respuestas en [ChatGPT] y [it] me dirá si el programa generó el contenido”, escribió, diciendo que había probado cada documento dos veces. Ofreció a la clase una tarea de recuperación para evitar la calificación reprobatoria, lo que, de lo contrario, podría, en teoría, amenazar su estado de graduación.
Solo hay un problema: ChatGPT no funciona de esa manera. El bot no está hecho para detectar material compuesto por IA, o incluso material producido por sí mismo, y se sabe que a veces emite [información errónea dañina] (https://www.washingtonpost.com/technology/2023/04/05/chatgpt -mentiras/). Con muy poca insistencia, ChatGPT incluso afirmará haber escrito pasajes de novelas famosas como Crimen y castigo. Los educadores pueden elegir entre una amplia variedad de herramientas efectivas de detección de plagio e IA para evaluar si los estudiantes han completado las tareas por sí mismos, incluidas Winston AI y [Content at Scale](https://contentatscale .ai/?fpr=para-crecer-su-negocio&fp_sid=br&gclid=CjwKCAjw04yjBhApEiwAJcvNoRU4vskxRmSOOITkkZOufSegG-JO0Q9lZFLDdVJfeTtPYrtvWF-YUBoCQq0QAvD_BwE); ChatGPT no está entre ellos. Y la propia herramienta de OpenAI para determinar si un texto fue escrito por un bot ha sido juzgada como “[no muy precisa](https://goldpenguin.org/blog/best-ai-writing-plagiarism-detectors-for-teachers/#: ~:text=Winston%20AI,a%20high%20detection%20accuracy%20rate.)” por una agencia de marketing digital que recomienda recursos tecnológicos a las empresas.
Pero todo eso aparentemente sería una novedad para Mumm, quien parecía tan fuera de sí como para nombrar incorrectamente el software que estaba usando indebidamente. Los estudiantes afirman que le proporcionaron pruebas de que no habían usado ChatGPT (exonerando las marcas de tiempo en los documentos de Google que usaron para completar la tarea), pero que inicialmente ignoró esto y comentó en el sistema de software de calificación de la escuela: "No califico tonterías de IA". .” (Mumm no respondió a la solicitud de comentarios de Rolling Stone).
El correo electrónico de Mumm fue compartido en Reddit por un usuario con el identificador DearKick, quien se identificó como el prometido de uno de los estudiantes para recibir una calificación reprobatoria por enviar ensayos supuestamente generados por IA. Afirma a Rolling Stone que su pareja nunca había oído hablar de ChatGPT y que estaba desconcertado por la acusación, y señaló que "se siente aún peor teniendo en cuenta que es algo de lo que no sabe nada". Inmediatamente “se comunicó con el decano y mandó CC al presidente de la universidad”, alega DearKick, pero no recibió ayuda de inmediato y fue a defender su caso ante los administradores en persona el martes. DearKick agrega que Mumm supuestamente reprobó "varias" clases enteras de manera similar en lugar de cuestionar la validez de sus métodos para detectar a los tramposos.
En un giro divertido, las afirmaciones de Mumm parecen ser socavadas por un simple experimento usando ChatGPT. El martes, el usuario de reddit Delicious_Village112 encontró un resumen de la tesis doctoral de Mumm sobre cría de cerdos y envió una sección de ese documento al bot, preguntándole si podría haber escrito el párrafo. “Sí, el pasaje que compartiste podría haber sido generado por un modelo de lenguaje como ChatGPT, dado el mensaje correcto”, [respondió el programa] (https://imgur.com/a/VGw4b7y). “El texto contiene varias características que son consistentes con el contenido generado por IA”. A pedido de otros redditores, Delicious_Village112 también envió el correo electrónico de Mumm a los estudiantes sobre su presunto engaño de IA, haciendo la misma pregunta. “Sí, escribí el contenido que compartió”, ChatGPT [respondió] (https://imgur.com/a/NrwpZfh). Sin embargo, el bot también aclaró: "Si alguien usara mis habilidades para ayudar a redactar un correo electrónico, no tendría un registro".
DearKick le dice a Rolling Stone que la reunión de su prometida el martes con el Decano de Ciencias Agrícolas de la universidad "debería aclarar las cosas, espero", y especula que Mumm estaba poco familiarizado con los chatbots antes de intentar pasar los trabajos de los estudiantes a través de uno. En una actualización de su publicación original, reveló que si bien al menos un estudiante ya ha sido exonerado a través de las marcas de tiempo de Google Docs y recibió una disculpa de Mumm, otros dos habían admitido haber usado ChatGPT a principios del semestre, lo que "sin duda complica enormemente la situación para aquellos que no lo hicieron".
En un comunicado enviado a Rolling Stone el miércoles, Texas A&M University-Commerce dijo que estaban investigando el incidente y desarrollando políticas relacionadas con la IA en el aula. La universidad negó que alguien hubiera recibido una calificación reprobatoria. “A&M-Commerce confirma que ningún estudiante reprobó la clase o no pudo graduarse debido a este problema”, señaló la escuela. "Dr. Jared Mumm, el profesor de la clase, está trabajando individualmente con los estudiantes con respecto a sus últimas tareas escritas. Algunos estudiantes recibieron una calificación temporal de 'X', que indica 'incompleto', para permitir que el profesor y los estudiantes determinen si se utilizó IA para escribir sus tareas y, de ser así, en qué nivel". La universidad también confirmó que varios estudiantes habían sido absueltos de cualquier deshonestidad académica.
“Los funcionarios de la universidad están investigando el incidente y desarrollando políticas para abordar el uso o mal uso de la tecnología de inteligencia artificial en el aula”, continuó el comunicado. “También están trabajando para adoptar herramientas de detección de IA y otros recursos para gestionar la intersección de la tecnología de IA y la educación superior. El uso de la IA en los cursos es un problema que cambia rápidamente y que enfrenta a todas las instituciones de aprendizaje”.
Si bien los maestros ciertamente tienen razón en su sospecha de que los estudiantes pueden intentar completar el trabajo escrito con la ayuda de AI, este alboroto demuestra cómo el problema es bidireccional: para identificar o prevenir de manera confiable este tipo de trampa, los profesores y administradores escolares necesitan un conocimiento básico. comprensión de la tecnología involucrada. El mejor de los casos aquí es que todos hayan recibido una educación intensiva.
ACTUALIZACIÓN: este artículo se actualizó a las 2:17 p. m. ET, 17 de mayo, para incluir una declaración de Texas A&M University-Commerce.