Incidents associés
Le ministère de l'Éducation de la ville de New York a annoncé l'interdiction du très populaire chatbot ChatGPT – qui, selon certains, pourrait inspirer davantage d'étudiants à tricher – sur les appareils et les réseaux de ses écoles.
Jenna Lyle, porte-parole du département, a déclaré que la décision d'interdire ChatGPT, qui est capable de générer des réponses conversationnelles aux invites textuelles, découlait de préoccupations concernant les "impacts négatifs sur l'apprentissage des élèves".
"Bien que l'outil puisse fournir des réponses rapides et faciles aux questions, il ne développe pas les compétences de pensée critique et de résolution de problèmes, qui sont essentielles pour la réussite scolaire et tout au long de la vie", a déclaré Lyle dans un communiqué par e-mail.
Il n'était pas immédiatement clair si l'interdiction s'appliquait au système de la City University of New York. Un représentant de CUNY n'a pas immédiatement fourni de commentaire à NBC News.
Dans les écoles publiques de New York, ChatGPT peut toujours être mis à disposition sur demande pour les classes étudiant l'intelligence artificielle.
Bien que les chatbots ne soient pas une nouvelle technologie, ChatGPT, un chatbot créé par la société d'intelligence artificielle OpenAI, [explosé sur les réseaux sociaux](https://www.nbcnews.com/tech/tech-news/chatgpt-ai-chatbot-viral- rcna59628) en fin 2022 après que certains aient déclaré que le bot était un [meilleur moteur de recherche](https://www.nbcnews.com /tech/tech-news/chatgpt-ai-chatbot-viral-rcna59628) que Google grâce à son style conversationnel et à son style de réponse cohérent et d'actualité.
Dans une déclaration par e-mail répondant à l'interdiction des écoles publiques de New York, un porte-parole d'OpenAI a déclaré que la société "ne veut pas que ChatGPT soit utilisé à des fins trompeuses dans les écoles ou ailleurs".
La société "développe déjà des mesures d'atténuation pour aider quiconque à identifier le texte généré par ce système", a déclaré le porte-parole.
La décision du Département de l'éducation de la ville de New York d'interdire le bot intervient au milieu discourse sur l'impact que ChatGPT pourrait avoir sur l'éducation si les élèves devaient l'utiliser pour générer des devoirs, résoudre des équations mathématiques et rédiger des essais.
Les experts ont reconnu que les chatbots comme ChatGPT pourraient nuire à l'éducation à l'avenir, mais dans des entretiens récents avec NBC News, certains ont dit qu'ils n'étaient pas encore prêts à tirer la sonnette d'alarme.
Ceux qui travaillent à la fois dans le domaine de l'éducation et de l'intelligence artificielle ont déclaré que les institutions devront trouver des moyens d'intégrer des chatbots comme ChatGPT dans leur programme plutôt que de les interdire complètement.
"Il y a toujours eu cette inquiétude que les technologies suppriment ce que les gens font le mieux, et la réalité est que les gens ont dû apprendre à utiliser ces technologies pour améliorer ce qu'ils font le mieux", a déclaré Lauren Klein, professeure agrégée dans les départements de Théorie et méthodes anglaises et quantitatives à l'Université Emory, a déclaré le mois dernier.
Beaucoup ont comparé les chatbots à l'essor de la technologie comme la calculatrice, qui a été décriée comme la mort des mathématiques jusqu'à ce que les éducateurs commencent à l'utiliser pour élever leur travail en classe. Certains éducateurs ont également déclaré que plusieurs outils d'écriture assistée par ordinateur, comme Grammarly ou Smart Compose de Google Docs, existent déjà et sont actuellement utilisés dans le milieu universitaire.
Les experts ont prédit que quelqu'un créerait probablement une technologie pour détecter si un essai était fait par ChatGPT. Ces prédictions étaient correctes.
Lundi, Edward Tian, étudiant en informatique à l'université de Princeton, tweeté qu'il avait passé les vacances à créer un outil pour détecter si un morceau de texte a été généré par un être humain ou une intelligence artificielle.
"La génération de texte par IA, c'est comme ouvrir une boîte de Pandore. C'est une innovation incroyablement excitante, mais avec toute nouvelle technologie, nous devons créer des garanties pour qu'elle soit adoptée de manière responsable", a déclaré Tian dans un message Twitter à NBC News jeudi.
Dans les tweets suivants, Tian a partagé des vidéos du programme au travail. Dans un clip, il a montré comment son bot, GPTZero, a détecté à la fois du texte humain et de l'IA. Dans un clip, il a inséré le texte d'un article du New Yorker dans GPTZero. Le bot a ensuite déclaré que le texte était "probablement généré par l'homme !"
Le porte-parole d'OpenAI a déclaré que ChatGPT était "disponible en tant qu'aperçu de la recherche pour apprendre de l'utilisation dans le monde réel, ce qui, selon nous, est un élément essentiel du développement et du déploiement de systèmes d'IA capables et sûrs".
"Nous intégrons constamment les commentaires et les leçons apprises. Nous avons toujours appelé à la transparence autour de l'utilisation du texte généré par l'IA", a déclaré le porte-parole. "Nos politiques exigent que les utilisateurs soient francs avec leur public lorsqu'ils utilisent notre API et des outils créatifs comme DALL-E et GPT-3."
La société a déclaré qu'elle était "impatiente de travailler avec les éducateurs sur des solutions utiles et d'autres moyens d'aider les enseignants et les étudiants à bénéficier de l'intelligence artificielle".