Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 2511

Incidents associés

Incident 33914 Rapports
Open-Source Generative Models Abused by Students to Cheat on Assignments and Exams

Loading...
Alarmé par A.I. Les chatbots et les universités commencent à réorganiser leur façon d'enseigner
nytimes.com · 2023

Alors qu'il corrigeait des essais pour son cours sur les religions du monde le mois dernier, Antony Aumann, professeur de philosophie à la Northern Michigan University, a lu ce qu'il a qualifié de "le meilleur article de la classe". Il a exploré la moralité des interdictions de la burqa avec des paragraphes clairs, des exemples appropriés et des arguments rigoureux.

Un drapeau rouge s'est immédiatement levé.

M. Aumann a demandé à son élève s'il avait lui-même écrit l'essai. L'étudiant a avoué utiliser ChatGPT, un chatbot qui fournit des informations, explique des concepts et génère des idées dans des phrases simples – et, dans ce cas, avait écrit le papier.

Alarmé par sa découverte, M. Aumann a décidé de transformer la rédaction d'essais pour ses cours ce semestre. Il prévoit d'exiger des élèves qu'ils rédigent les premiers brouillons en classe, à l'aide de navigateurs qui surveillent et restreignent l'activité de l'ordinateur. Dans les versions ultérieures, les étudiants doivent expliquer chaque révision. M. Aumann, qui peut renoncer à des essais au cours des semestres suivants, prévoit également d'intégrer ChatGPT dans les cours en demandant aux étudiants d'évaluer les réponses du chatbot.

"Ce qui se passe en classe ne va plus être, 'Voici quelques questions - parlons-en entre nous les êtres humains'", a-t-il dit, mais à la place "c'est comme, 'Qu'est-ce que ce robot extraterrestre pense aussi?'"

Dans tout le pays, des professeurs d'université comme M. Aumann, des directeurs de département et des administrateurs commencent à réorganiser les salles de classe en réponse à [ChatGPT](https://www.nytimes.com/2022/12/10/technology/ai-chat-bot -chatgpt.html), provoquant un changement potentiellement énorme dans l'enseignement et l'apprentissage. Certains professeurs repensent entièrement leurs cours, apportant des changements qui incluent davantage d'examens oraux, de travaux de groupe et d'évaluations manuscrites au lieu d'évaluations dactylographiées.

Ces mouvements font partie d'une lutte en temps réel contre une nouvelle vague technologique connue sous le nom d'intelligence artificielle générative. ChatGPT, qui a été publié en novembre par le laboratoire d'intelligence artificielle OpenAI, est à l'avant-garde du changement. Le chatbot génère un texte étrangement articulé et nuancé en réponse à de courtes invites, les personnes l'utilisant pour écrire des lettres d'amour, de la poésie, de la fan fiction - et leurs travaux scolaires.

Cela a bouleversé certains collèges et lycées, les enseignants et les administrateurs essayant de discerner si les élèves utilisent le chatbot pour faire leurs devoirs. Certains systèmes scolaires publics, notamment à New York City et à Seattle, ont depuis a interdit l'outil sur les réseaux et appareils Wi-Fi scolaires pour empêcher la triche, bien que les étudiants puissent facilement trouver des solutions de contournement pour accéder à ChatGPT.

Dans l'enseignement supérieur, les collèges et les universités ont été réticents à interdire l'I.A. parce que les administrateurs doutent que le déménagement soit efficace et qu'ils ne veulent pas enfreindre la liberté académique. Cela signifie que la façon dont les gens enseignent change à la place.

"Nous essayons d'instituer des politiques générales qui soutiennent certainement l'autorité du membre du corps professoral pour diriger une classe", au lieu de cibler des méthodes spécifiques de tricherie, a déclaré Joe Glover, prévôt de l'Université de Floride. "Ce ne sera pas la dernière innovation à laquelle nous devrons faire face."

C'est particulièrement vrai en tant qu'I.A. générative. est à ses débuts. OpenAI devrait bientôt publier un autre outil, GPT-4, qui génère mieux du texte que les versions précédentes. Google a construit LaMDA, un chatbot rival, et [Microsoft discute d'un investissement de 10 milliards de dollars] (https://www.nytimes.com/2023/01/12/technology/microsoft-openai-chatgpt.html) dans OpenAI. Start-ups de la Silicon Valley, y compris [Stability AI](https://www.nytimes .com/2022/10/21/technology/generative-ai.html) et [Character.AI](https://www.nytimes.com/2023/01/10/science/character-ai-chatbot-intelligence. html), travaillent également sur l'I.A. générative. outils.

Une porte-parole d'OpenAI a déclaré que le laboratoire reconnaissait que ses programmes pouvaient être utilisés pour tromper les gens et développait une technologie pour aider les gens à identifier le texte généré par ChatGPT.

Dans de nombreuses universités, ChatGPT est maintenant au sommet de l'ordre du jour. Les administrateurs créent des groupes de travail et organisent des discussions à l'échelle de l'université pour répondre à l'outil, une grande partie des conseils étant de s'adapter à la technologie.

Dans des écoles telles que l'Université George Washington à Washington, D.C., l'Université Rutgers au Nouveau-Brunswick, N.J., et l'Université d'État des Appalaches à Boone, N.C., les professeurs suppriment progressivement les devoirs à livre ouvert à emporter à la maison - qui sont devenus une méthode d'évaluation dominante dans le pandémie mais semblent désormais vulnérables aux chatbots. Ils optent plutôt pour des devoirs en classe, des travaux manuscrits, des travaux de groupe et des examens oraux.

Fini les invites comme "écrire cinq pages sur ceci ou cela". Certains professeurs élaborent plutôt des questions qu'ils espèrent être trop intelligentes pour les chatbots et demandent aux étudiants d'écrire sur leur propre vie et les événements actuels.

Les étudiants "plagient cela parce que les devoirs peuvent être plagiés", a déclaré Sid Dobrin, directeur du département d'anglais de l'Université de Floride.

Frederick Luis Aldama, titulaire de la chaire des sciences humaines à l'Université du Texas à Austin, a déclaré qu'il prévoyait d'enseigner des textes plus récents ou plus spécialisés sur lesquels ChatGPT pourrait avoir moins d'informations, tels que les premiers sonnets de William Shakespeare au lieu de "A Midsummer Night's Dream".

Le chatbot peut motiver « les personnes qui se penchent sur des textes primaires canoniques pour aller au-delà de leur zone de confort pour des choses qui ne sont pas en ligne », a-t-il déclaré.

Au cas où les changements ne suffiraient pas à prévenir le plagiat, M. Aldama et d'autres professeurs ont déclaré qu'ils prévoyaient d'instituer des normes plus strictes concernant ce qu'ils attendent des étudiants et la façon dont ils notent. Il ne suffit plus pour un essai d'avoir juste une thèse, une introduction, des paragraphes de soutien et une conclusion.

"Nous devons améliorer notre jeu", a déclaré M. Aldama. "L'imagination, la créativité et l'innovation de l'analyse que nous considérons généralement comme un article A doivent se répercuter sur les articles de la gamme B."

Les universités visent également à éduquer les étudiants sur le nouveau A.I. outils. L'Université de Buffalo à New York et l'Université Furman de Greenville, S.C., ont déclaré qu'elles prévoyaient d'intégrer une discussion sur l'IA. des outils dans les cours obligatoires qui enseignent aux étudiants débutants ou de première année des concepts tels que l'intégrité académique.

"Nous devons ajouter un scénario à ce sujet, afin que les étudiants puissent voir un exemple concret", a déclaré Kelly Ahuna, qui dirige le bureau de l'intégrité académique de l'Université de Buffalo. "Nous voulons empêcher les choses de se produire au lieu de les attraper quand elles se produisent."

D'autres universités tentent de tracer des limites pour A.I. L'Université de Washington à St. Louis et l'Université du Vermont à Burlington rédigent des révisions de leurs politiques d'intégrité académique afin que leurs définitions du plagiat incluent l'IA générative.

John Dyer, vice-président des services d'inscription et des technologies éducatives au Dallas Theological Seminary, a déclaré que le langage du code d'honneur de son séminaire semblait "un peu archaïque de toute façon". Il prévoit de mettre à jour sa définition du plagiat pour inclure : "l'utilisation d'un texte écrit par un système de génération comme le sien (par exemple, entrer une invite dans un outil d'intelligence artificielle et utiliser la sortie dans un article)."

L'utilisation abusive de l'I.A. les outils ne finiront probablement pas, c'est pourquoi certains professeurs et universités ont déclaré qu'ils prévoyaient d'utiliser des détecteurs pour éradiquer cette activité. Le service de détection de plagiat Turnitin a déclaré il intégrerait plus de fonctionnalités pour identifier A.I., y compris ChatGPT, cette année.

Plus de 6 000 enseignants de l'Université de Harvard, de l'Université de Yale, de l'Université de Rhode Island et d'autres se sont également inscrits pour utiliser GPTZero, un programme qui promet de détecter rapidement le texte généré par l'IA, a déclaré Edward Tian, son créateur et senior à l'Université de Princeton. .

Certains étudiants voient l'intérêt d'adopter l'IA. des outils pour apprendre. Lizzie Shackney, 27 ans, étudiante à la faculté de droit et à l'école de design de l'Université de Pennsylvanie, a commencé à utiliser ChatGPT pour réfléchir à des articles et déboguer des ensembles de problèmes de codage.

"Il y a des disciplines qui veulent que vous partagiez et ne veulent pas que vous tourniez vos roues", a-t-elle déclaré, décrivant ses cours d'informatique et de statistiques. "L'endroit où mon cerveau est utile est de comprendre ce que signifie le code."

Mais elle a des scrupules. ChatGPT, a déclaré Mme Shackney, explique parfois de manière incorrecte les idées et cite mal les sources. L'Université de Pennsylvanie n'a pas non plus institué de réglementation concernant l'outil, elle ne veut donc pas s'y fier au cas où l'école l'interdirait ou le considérerait comme de la triche, a-t-elle déclaré.

D'autres étudiants n'ont pas de tels scrupules, partageant sur des forums comme Reddit qu'ils ont soumis des devoirs écrits et résolus par ChatGPT - et parfois aussi pour d'autres étudiants. Sur TikTok, le hashtag #chatgpt a plus de 578 millions de vues, avec des personnes partageant des vidéos de l'outil rédaction d'articles et résolution de problèmes de codage.

Une vidéo montre un étudiant en train de copier un examen à choix multiples et de le coller dans l'outil avec la légende disant : "Je ne sais pas pour vous". tout sauf que je demande à Chat GPT de prendre ma finale. Amusez-vous à étudier.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd