Incidents associés
Les essais écrits par des outils de langage d'IA comme OpenAI's Playground sont souvent difficiles à distinguer du texte écrit par des humains.
Les professeurs d'innova_rye les connaissent comme une majeure en biochimie de première année et un étudiant « A ». Ce que leurs professeurs ne savent pas à leur sujet, c'est qu'ils utilisent un puissant modèle de langage d'IA pour terminer la plupart des devoirs.
"Il s'agirait de devoirs simples comprenant des réponses étendues", a déclaré innovate_rye, qui a demandé à utiliser son identifiant Reddit pour éviter d'être détecté par son université, à Motherboard. « Pour la biologie, nous en apprendrions sur la biotechnologie et écririons cinq bonnes et mauvaises choses sur la biotechnologie. J'enverrais une invite à l'IA du type "quelles sont cinq bonnes et mauvaises choses à propos de la biotechnologie?" et cela générerait une réponse qui me donnerait un A. "
Sans l'IA, innovate_rye affirme que les devoirs qu'ils considèrent comme des "travail acharné" leur prendraient deux heures. Maintenant, les devoirs comme celui-ci leur prennent 20 minutes.
"J'aime beaucoup apprendre [et] parfois les devoirs que j'ai déjà faits me font tergiverser et ne pas rendre le devoir", explique innovate_rye. "Être capable de le faire plus rapidement et plus efficacement me semble être une compétence."
innovate_rye n'est pas seul. Depuis qu'OpenAI a dévoilé la dernière interface de programmation d'applications (API) pour son modèle de langage largement utilisé, GPT-3, de plus en plus d'étudiants ont commencé à envoyer des invites écrites dans [OpenAI's Playground](https://www.vice.com/en/article/ 4axd59/people-are-using-ai-to-generate-disturbing-kids-bedtime-stories) et des programmes similaires qui utilisent l'apprentissage en profondeur pour générer du texte. Les résultats continuent l'invite initiale d'une manière naturelle, et [souvent ne peuvent pas être distingués du texte écrit par l'homme] (https://www.vice.com/en/article/7kbjvb/this-magickal-grimoire- était-co-écrit-par-une-ai-d'un réalisme troublant).
Quand AeUsako_ était en terminale au printemps dernier, ils ont utilisé OpenAI pour générer un essai complet sur les affaires mondiales contemporaines. Ils ont dit à Motherboard que, bien qu'ils n'aient pas réussi la mission - ils ont perdu des points pour ne pas avoir cité de sources extérieures - ils ont appris que les algorithmes de vérification du plagiat ne signaleraient pas le texte généré par l'IA.
"Parce que j'ai utilisé Open AI, je n'ai pas ressenti l'anxiété constante de devoir me concentrer tout mon temps sur l'écriture", a déclaré AeUsako_, qui a également demandé à utiliser son pseudonyme en ligne, à Motherboard.
George Veletsianos, titulaire de la Chaire de recherche du Canada sur l'apprentissage et la technologie innovants et professeur agrégé à l'Université Royal Roads, explique que c'est parce que le texte généré par des systèmes comme l'API OpenAI sont des sorties techniquement originales qui sont générées dans un algorithme de boîte noire.
"[Le texte] n'est pas copié d'ailleurs, il est produit par une machine, donc le logiciel de vérification du plagiat ne sera pas en mesure de le détecter et il ne pourra pas le récupérer car le texte n'a été copié de nulle part autrement », a déclaré Veletsianos à Motherboard. "Sans savoir comment fonctionnent tous ces autres outils de vérification du plagiat et comment ils pourraient être développés à l'avenir, je ne pense pas que le texte de l'IA puisse être détectable de cette manière."
Il n'est pas clair si les entreprises derrière les outils d'IA ont la capacité de détecter ou d'empêcher les étudiants de les utiliser pour faire leurs devoirs. OpenAI n'a pas commenté à temps pour la publication.
Peter Laffin est professeur d'écriture et fondateur du programme de tutorat privé Crush the College Essay. Il dit que des outils comme OpenAI sont emblématiques d'autres techniques de compensation que la technologie a produites au cours de la dernière décennie, comme les assistants de frappe basés sur le cloud qui sont destinés à aider les écrivains en difficulté.
"Dans l'enseignement de l'alphabétisation, en particulier pour les écrivains en développement, les instructeurs recherchent le niveau de difficulté souhaitable, ou le point auquel vous travaillez tout aussi dur pour ne pas casser mais vous améliorer également", a déclaré Laffin à Motherboard. « Trouver le bon niveau de difficulté d'enseignement souhaitable augmente leur capacité à écrire. Donc, si vous utilisez des techniques de compensation qui vont au-delà de la recherche de ce niveau de difficulté souhaitable et de l'enseignement à cet endroit, vous ne les aidez pas à grandir en tant qu'écrivain.
Veletsianos note qu'il est probable que nous ayons dépassé le point de non-retour avec le texte généré par l'IA, et que les étudiants ne sont pas les seuls à être courtisés.
"Nous pouvons également commencer à voir où cette technologie pourrait générer une conférence à la volée et toutes sortes de questions autour de la conférence", a-t-il déclaré. "Je ne dis pas que le système que nous avons est le meilleur système, mais je dis que ce sont des conversations dont nous avons besoin et que nous devrions avoir pour voir comment nous pouvons utiliser ces outils pour améliorer non seulement l'efficacité de l'enseignement, mais son efficacité et son engagement en tant que Bien."
Bien que Laffin reconnaisse qu'une réévaluation d'une éducation efficace est nécessaire, il dit que cela peut se produire lorsque l'on regarde les types d'incitations que les éducateurs assignent aux élèves, notant une différence entre la régurgitation des faits et la découverte d'informations. Cependant, il craint que des produits comme le générateur de texte d'OpenAI ne fassent de la rédaction d'un essai un point discutable.
"Nous perdons le chemin de l'apprentissage", a déclaré Laffin. « Nous savons peut-être plus de choses, mais nous n'avons jamais su comment nous en sommes arrivés là. Nous avons toujours dit que le processus est la meilleure partie et nous le savons. La satisfaction est la meilleure partie. C'est peut-être la chose qui est éliminée de tout cela. Et je ne connais pas le genre de personne qui crée plus que tout. Au-delà des universitaires, je ne sais pas à quoi ressemble une personne si elle n'a jamais eu à lutter pour apprendre. Je ne connais pas les implications comportementales de cela.
Pendant ce temps, innovate_rye attend avec impatience GPT-4, qui est [prévu pour être formé sur 100 billions de paramètres d'apprentissage automatique et peut aller au-delà de simples sorties textuelles](https://www.analyticsinsight.net/will-gpt-4-be -un-modèle-de-langage-massif-qui-peut-imiter-le-cerveau-humain/). En d'autres termes, ils ne prévoient pas d'arrêter d'utiliser l'IA pour rédiger des essais de si tôt.
"Je fais toujours mes devoirs sur les choses que je dois apprendre à réussir, j'utilise simplement l'IA pour gérer les choses que je ne veux pas faire ou que je trouve dénuées de sens", a ajouté innovate_rye. "Si l'IA est capable de faire mes devoirs en ce moment, à quoi ressemblera l'avenir ? Ces questions me passionnent.