Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 2575

Incidentes Asociados

Incidente 33914 Reportes
Open-Source Generative Models Abused by Students to Cheat on Assignments and Exams

Loading...
Decenas de estudiantes de Stanford usaron ChatGPT en los exámenes finales, sugiere una encuesta
stanforddaily.com · 2023

Tanto los estudiantes como los profesores de Stanford están lidiando con el auge de ChatGPT, un chatbot impulsado por inteligencia artificial, y las implicaciones de la tecnología para la educación.

Algunos profesores ya han revisado sus cursos en previsión de cómo los estudiantes podrían usar el chatbot para completar tareas y exámenes. Y según una encuesta informal realizada por The Daily, una gran cantidad de estudiantes ya han usado ChatGPT en sus exámenes finales.

Queda por ver si la nueva tecnología requerirá una revisión del Código de Honor, los estándares de la Universidad para la integridad académica: un portavoz de la Universidad confirmó que la Junta de Asuntos Judiciales está al tanto de estas herramientas emergentes y las supervisa.

"Se espera que los estudiantes completen el trabajo del curso sin ayuda no autorizada", escribió el portavoz Dee Mostofi. "En la mayoría de los cursos, la ayuda no permitida incluye herramientas de IA como ChatGPT".

El chatbot fue creado por la empresa de inteligencia artificial OpenAI, con sede en San Francisco, y se lanzó en noviembre. Sam Altman, que abandonó Stanford, se encuentra entre los cofundadores de la empresa.

Cuando OpenAI lanzó la herramienta, despegó rápidamente, atrajo a más de un millón de usuarios en menos de una semana y llamó la atención por su capacidad para generar casi cualquier nivel de forraje basado en texto utilizando tecnología de un campo de aprendizaje automático llamado procesamiento de lenguaje natural. No solo actúa como un compañero de estudio robótico, sino que también [escribe](https://www.theatlantic.com/technology/archive/2022/ 12/chatgpt-ai-writing-college-student-essays/672371/) ensayos extensos sobre casi cualquier tema y generar ideas y esquemas para proyectos.

Por ejemplo, cuando se le pidió un "párrafo inicial ingenioso para un artículo del Stanford Daily sobre ChatGPT y el Código de Honor de Stanford", el chatbot produjo lo siguiente:

"ChatGPT, una popular herramienta de inteligencia artificial, recientemente provocó un debate en el campus sobre su papel en la integridad académica. Algunos argumentan que usar ChatGPT para completar las tareas es una violación del Código de Honor, mientras que otros afirman que es simplemente una herramienta para la generación de ideas. La pregunta sigue siendo: ¿ChatGPT es un ayudante útil o un truco deshonesto? Una cosa es cierta: hay mucho en juego y el futuro de la IA en Stanford pende de un hilo".

El poder de la tecnología para generar instantáneamente franjas de texto con apariencia humana ha asustado algunos educadores de todo el país.

Entre otros distritos que han tomado medidas enérgicas contra su uso, el departamento de educación de la ciudad de Nueva York ha bloqueado el sitio en sus redes, [citando](https://ny.chalkbeat.org/2023/1/3/23537987/nyc-schools- ban-chatgpt-writing-artificial-intelligence?utm_source=substack&utm_medium=email) "preocupaciones sobre los impactos negativos en el aprendizaje de los estudiantes y preocupaciones sobre la seguridad y precisión del contenido", según Jenna Lyle, portavoz del departamento de educación, en un comunicado a Chalkbeat New York .

El conocimiento de la tecnología también ha llegado a la facultad de Stanford, confirmó Mostofi, el vocero de la Universidad. Mostofi, citando una historia reciente en el Informe de Stanford que muestra el peso de los profesores en ChatGPT, escribió: "Muchos profesores de Stanford están muy comprometidos con la investigación de nuevos modelos de lenguaje extenso y las implicaciones de la IA en el entorno de aprendizaje".

Mostofi dijo que las tareas de los estudiantes seguirán siendo diseñadas para "apoyar a los estudiantes en el desarrollo de habilidades de pensamiento y escritura vinculadas", incluidos los procesos de redacción y revisión, así como la cita de fuentes.

Algunos colegios y universidades ya han incorporado la nueva tecnología en sus políticas de integridad académica. La Universidad de Washington en St. Louis y la Universidad de Vermont en Burlington se encuentran entre las instituciones que han modificado sus políticas de integridad académica para incluir el uso de herramientas de IA como ChatGPT.

Mostofi escribió que en Stanford, pronto se iniciarán conversaciones sobre ChatGPT y el código de honor.

"La Junta de Asuntos Judiciales (BJA) ha estado monitoreando estas herramientas emergentes y discutirá cómo pueden relacionarse con las pautas de nuestro Código de Honor", escribió Mostofi.

Pero mientras la Universidad planea discutir ChatGPT, algunos estudiantes ya han usado la herramienta para completar sus exámenes finales, según una encuesta anónima realizada por The Daily en la aplicación de redes sociales Fizz, que requiere un correo electrónico de stanford.edu para unirse.

Según la encuesta, que tuvo 4497 encuestados (aunque el número puede estar inflado) y estuvo abierta desde enero Del 9 al 15 de enero, alrededor del 17 % de los estudiantes de Stanford que respondieron informaron que usaban ChatGPT para ayudarlos con sus tareas y exámenes del trimestre de otoño.

De ese 17%, la mayoría informó usar la IA solo para lluvia de ideas y esquemas. Solo alrededor del 5% informó haber enviado material escrito directamente desde ChatGPT con pocas o ninguna edición, según la encuesta.

De acuerdo con otra encuesta informal realizada por The Daily en la misma aplicación, la mayoría de los estudiantes que respondieron cree que el uso de ChatGPT para ayudar con las tareas actualmente es o debería ser una violación del Código de Honor. Sin embargo, hay una diferencia en lo que los estudiantes creen que debería considerarse una infracción.

La noticia de que algunos estudiantes ya están usando ChatGPT en las tareas se ha extendido a los profesores, algunos de los cuales están renovando sus cursos como resultado.

En un mensaje al canal público de Slack del departamento de ciencias de la computación (CS), el profesor asociado de ciencias de la computación Michael Bernstein '06 preguntó si algún otro profesor había encontrado tareas generadas por ChatGPT.

"En este caso", escribió Bernstein, "fue fácil saberlo porque parte de la presentación incluía: 'Como un gran modelo de lenguaje entrenado por OpenAI...'".

La profesora de informática Julie Stanford BA '98 MA '98 agregó en Slack que la presentación del estudiante era "como robar un banco y preocuparse tan poco por ser atrapado que intenta tomar una selfie con la cámara de seguridad al salir".

Algunos profesores en el campus agregaron recientemente políticas de cursos a sus planes de estudios que advierten contra el uso de ChatGPT, argumentando que es una forma de plagio, mientras que otros han cambiado a métodos más tradicionales, intentando eliminar la tecnología de la imagen.

Una clase, COMM 108: "Procesos y efectos de medios" ha dedicado una sección completa de su plan de estudios dedicada al uso de herramientas de IA. "Por lo general, se desaconseja el uso de agentes de inteligencia artificial (IA) (p. ej., ChatGPT, StableDiffusion) para generar tareas o partes de tareas. Si elige usar un agente de IA para generar partes o aspectos de una tarea, debe divulgar este uso y citar de la misma manera que citarías cualquier fuente externa", se lee en el plan de estudios.

En Slack de ciencias de la computación, el profesor principal Keith Schwarz MS '11 dijo que "volvió a los exámenes de lápiz y papel", citando preocupaciones relacionadas con las computadoras abiertas que podrían estar operando ChatGPT, incluso sugiriendo que podría considerar "pedir a los estudiantes dejar todas sus mochilas y dispositivos electrónicos al frente de la sala de examen".

Los líderes estudiantiles de Stanford AI Alignment (SAIA), Gabriel Mukobi '23 Michael Byun '24, instaron a los estudiantes a tener cuidado con el uso de ChatGPT para el trabajo académico, ya que la herramienta no se ha ajustado para su uso en entornos académicos.

"Las herramientas de inteligencia artificial como ChatGPT están claramente aquí para quedarse", escribieron los dos.

Una versión anterior de este artículo afirmaba incorrectamente que Elon Musk abandonó Stanford. Desde entonces, esa parte del artículo se eliminó y The Daily lamenta este error.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd