Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 2491

Incidentes Asociados

Incidente 33914 Reportes
Open-Source Generative Models Abused by Students to Cheat on Assignments and Exams

Loading...
Herramienta ChatGPT AI utilizada por estudiantes para generar tareas, advierten académicos
thenationalnews.com · 2023

La inteligencia artificial tiene el potencial de revolucionar la forma en que se escriben los cursos de los estudiantes, pero los académicos han pedido mayores controles para detener las trampas generalizadas.

Con el uso de IA, los estudiantes e investigadores podrían ahorrar tiempo y esfuerzo al permitir que la tecnología ayude con la creación de tareas escritas.

Otra aplicación potencial de la IA en la escritura académica es mediante el uso de algoritmos de aprendizaje automático.

Estos algoritmos se pueden entrenar en un gran conjunto de datos de trabajos y artículos académicos, aprendiendo las características y patrones de una escritura exitosa.

Hablando en un taller de la Universidad Khalifa con disertantes sobre [cómo detectar el uso de ChatGPT](https://www.thenationalnews.com/business/technology/2023/01/09/chatgpt-all-you-need-to-know -about-the-program-challenging-google-search/), un software de IA generador de texto lanzado por la empresa estadounidense OpenAI en noviembre, el Dr. Athol Yates advirtió contra su uso por parte de los estudiantes.

"Esto definitivamente ya se está utilizando en todo el mundo, ya que los estudiantes son expertos en tecnología", dijo el Dr. Yates, profesor asociado de humanidades y ciencias sociales en la Universidad de Khalifa.

“Es fácil de usar, por lo que si llegan tarde a una tarea, es una opción simple. Tiene el potencial de convertirnos más en policías de aula.

“Es necesario que todas las instituciones educativas tengan una política institucional para esto y alguna educación para los estudiantes de que este uso de la IA de esta manera es inaceptable”.

La tecnología ha sido creada por OpenAI, una empresa tecnológica con sede en San Francisco cofundada por Elon Musk y valorada en alrededor de 29 millones de dólares, según informes financieros.

El 4 de diciembre, solo cuatro días después de su lanzamiento, ChatGPT contaba con más de un millón de usuarios.

Las escuelas de la ciudad de Nueva York ya se han movido para prohibir la tecnología en todo el distrito, pero algunas escuelas aún podrán acceder a la tecnología para ayudar en su educación.

Existen herramientas de IA diseñadas específicamente para la escritura académica, como el software de gestión de citas.

Estas herramientas pueden ayudar a los estudiantes a organizar sus fuentes y generar automáticamente citas y referencias en el estilo de formato correcto.

Si bien la IA tiene el potencial de ser una herramienta valiosa en el proceso de escritura académica, los académicos dijeron que no debe usarse como reemplazo del esfuerzo humano y el pensamiento crítico.

En última instancia, el objetivo de usar IA en la escritura académica debe ser ayudar y mejorar el proceso de escritura, en lugar de automatizarlo por completo, dijeron.

"Proporciona respuestas formuladas de buena calidad, que es lo que estamos tratando de enseñar", dijo el Dr. Yates.

“Es perfecto y utiliza un lenguaje natural, por lo que es difícil de detectar.

“La falta de referencias es un problema, pero hay formas de evitarlo.

“Los estudiantes no tienen que enviar una respuesta completa. Se puede volver a trabajar y, listo, tiene un trabajo: debemos decidir si eso es aceptable, ya que no tenemos una política en este momento al respecto”.

Existe el riesgo de que la IA se utilice con fines maliciosos, como ciberataques o la difusión de información falsa.

A medida que los sistemas de IA se vuelven más avanzados, podrían usarse para automatizar y amplificar estas actividades, causando un daño significativo a las personas y a la sociedad en su conjunto.

Finalmente, la adopción generalizada de la IA podría conducir a un desplazamiento laboral significativo, ya que muchas tareas que actualmente realizan los humanos están automatizadas.

Esto podría resultar en un desempleo generalizado y trastornos económicos, y será importante que los gobiernos y las empresas aborden este problema y se aseguren de que los afectados estén protegidos.

En general, si bien la IA tiene el potencial de generar muchos beneficios, es importante que se preste una cuidadosa consideración para abordar los peligros potenciales que plantea.

Esto requerirá investigación y colaboración continuas entre investigadores, legisladores y profesionales de la industria para garantizar que el desarrollo y uso de [IA sea responsable y ético] (https://www.thenationalnews.com/uae/health/artificial-intelligence-could- mejorar-la-detección-de-cáncer-1.959039).

“Si fuera a usar ChatGPT, me beneficiaría ver el flujo de ideas que genera”, dijo Amira Al Aamri, científica investigadora de la Universidad de Khalifa.

“A menudo, no sabemos por dónde empezar cuando escribimos, por lo que estas herramientas pueden ayudar con eso.

“No digo que nunca deba usarse, ya que hay beneficios, pero los resultados no deben copiarse y pegarse.

“Me gustaría ver el proceso por el que han pasado los estudiantes para generar su trabajo y esto no permite eso. Eso significa más trabajo para el estudiante.

“Cuando el software se desarrolle para producir referencias, cambiará las reglas del juego”.

Esta historia se ha creado en gran parte usando ChatGPT. Ingresamos 'escriba un artículo de noticias sobre los peligros de la inteligencia artificial en el cuadro de comando' y ChatGPT creó una historia de 400 palabras en segundos.

Agregamos citas de expertos de la Universidad Khalifa que dieron una presentación sobre el poder de ChatGPT y sus posibles usos.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd