Incidentes Asociados
Los ensayos escritos por herramientas de lenguaje de IA como OpenAI's Playground a menudo son difíciles de distinguir del texto escrito por humanos.
Los profesores de innovate_rye los conocen como estudiantes de bioquímica de primer año y estudiantes "A". Lo que sus profesores no saben acerca de ellos es que están usando un poderoso modelo de lenguaje de IA para terminar la mayoría de las tareas.
"Serían tareas simples que incluyeran respuestas extendidas", dijo a Motherboard innovate_rye, quien pidió usar su identificador de Reddit para evitar ser detectado por su universidad. “Para biología, aprenderíamos sobre biotecnología y escribiríamos cinco cosas buenas y malas sobre biotecnología. Le enviaría un mensaje a la IA como "¿cuáles son las cinco cosas buenas y malas de la biotecnología?" y generaría una respuesta que me daría una A".
Sin IA, innovate_rye dice que la tarea que consideran "trabajo pesado" les llevaría dos horas. Ahora tareas como esta les toman 20 minutos.
“Me gusta aprender mucho [y] a veces el trabajo escolar que he hecho antes me hace postergar y no entregar la tarea”, explica innovate_rye. “Ser capaz de hacerlo más rápido y de manera más eficiente me parece una habilidad”.
innovate_rye no está solo. Desde que OpenAI presentó la última interfaz de programación de aplicaciones (API) para su modelo de lenguaje ampliamente utilizado, GPT-3, más estudiantes han comenzado a introducir indicaciones escritas en [OpenAI's Playground] (https://www.vice.com/en/article/ 4axd59/people-are-using-ai-to-generate-perturbing-kids-bedtime-stories) y programas similares que utilizan el aprendizaje profundo para generar texto. Los resultados continúan con el mensaje inicial de una manera que suena natural y [a menudo no se pueden distinguir del texto escrito por humanos] (https://www.vice.com/en/article/7kbjvb/this-magickal-grimoire- fue-co-escrito-por-un-ai inquietantemente realista).
Cuando AeUsako_ estaba en el último año de secundaria la primavera pasada, usaron OpenAI para generar un ensayo completo sobre asuntos del mundo contemporáneo. Le dijeron a Motherboard que, si bien no aprobaron la tarea (perdieron puntos por no citar fuentes externas), aprendieron que los algoritmos de verificación de plagio no marcarían el texto generado por IA.
“Debido a que usé Open AI, no sentí la ansiedad constante de tener que concentrarme todo el tiempo en escribirlo”, dijo AeUsako_, quien también pidió usar su seudónimo en línea, a Motherboard.
George Veletsianos, Presidente de Investigación de Canadá en Aprendizaje y Tecnología Innovadores y profesor asociado en la Universidad Royal Roads, dice que esto se debe a que el texto generado por sistemas como OpenAI API son salidas técnicamente originales que se generan dentro de un algoritmo de caja negra.
"[El texto] no se copia de otro lugar, lo produce una máquina, por lo que el software de verificación de plagio no podrá detectarlo y no podrá recuperarlo porque el texto no se copió de ningún lugar más”, dijo Veletsianos a Motherboard. "Sin saber cómo funcionan todas estas otras herramientas de verificación de plagio y cómo podrían desarrollarse en el futuro, no creo que el texto de IA pueda detectarse de esa manera".
No está claro si las empresas detrás de las herramientas de IA tienen la capacidad de detectar o evitar que los estudiantes las usen para hacer sus tareas. OpenAI no hizo comentarios a tiempo para la publicación.
Peter Laffin es instructor de escritura y fundador del programa de tutoría privada Crush the College Essay. Él dice que las herramientas como OpenAI son emblemáticas de otras técnicas de compensación que la tecnología ha producido en la última década, como los asistentes de escritura basados en la nube que están destinados a ayudar a los escritores con dificultades.
“En la alfabetización, particularmente para los escritores en desarrollo, los instructores buscan el nivel de dificultad deseable, o el punto en el que te esfuerzas igual de duro para que no te rompas sino que también mejores”, dijo Laffin a Motherboard. “Encontrar el nivel correcto y apropiado de nivel de dificultad deseable de instrucción hace que su capacidad para escribir crezca. Entonces, si estás aplicando técnicas de compensación que van más allá de encontrar ese nivel de dificultad deseable e instruir en ese lugar, entonces no los estás ayudando a crecer como escritores”.
Veletsianos señala que es probable que hayamos pasado el punto de no retorno con el texto generado por IA, y que los estudiantes no son los únicos a los que se corteja.
“También podemos comenzar a ver dónde esta tecnología podría generar una conferencia sobre la marcha y todo tipo de preguntas en torno a la conferencia”, dijo. “No digo que el sistema que tenemos sea el mejor sistema, pero digo que estas son conversaciones que necesitamos y deberíamos tener para ver cómo podemos usar estas herramientas para mejorar no solo la eficiencia de la enseñanza, sino también su efectividad y participación como Bueno."
Si bien Laffin reconoce que es necesaria una reevaluación de la educación efectiva, dice que esto puede suceder al observar los tipos de indicaciones que los educadores asignan a los estudiantes, y señala una diferencia entre la regurgitación de hechos y el descubrimiento de información. Sin embargo, le preocupa que productos como el generador de texto de OpenAI hagan que la escritura de ensayos sea un punto discutible.
“Perdemos el viaje del aprendizaje”, dijo Laffin. “Podemos saber más cosas, pero nunca supimos cómo llegamos allí. Siempre hemos dicho que el proceso es la mejor parte y lo sabemos. La satisfacción es la mejor parte. Eso podría ser lo que está descartado de todo esto. Y no conozco el tipo de persona que crea más que nada. Más allá de lo académico, no sé cómo es una persona si nunca ha tenido que luchar para aprender. No sé las implicaciones conductuales de eso”.
Mientras tanto, innovate_rye espera ansiosamente GPT-4, que [se prevé que se entrene en 100 billones de parámetros de aprendizaje automático y puede ir más allá de los simples resultados textuales] (https://www.analyticsinsight.net/will-gpt-4-be -un-modelo-de-lenguaje-masivo-que-puede-imitar-el-cerebro-humano/). En otras palabras, no planean dejar de usar IA para escribir ensayos en el corto plazo.
“Sigo haciendo mi tarea sobre las cosas que necesito aprender a aprobar, solo uso la IA para manejar las cosas que no quiero hacer o que encuentro sin sentido”, agregó innovate_rye. “Si la IA puede hacer mi tarea ahora mismo, ¿cómo será el futuro? Estas preguntas me emocionan”.