Problème 6217
Un étudiant qui passe un quiz en ligne voit apparaître un bouton « Aide aux devoirs » dans son navigateur Chrome. Rapidement, l'intelligence artificielle de Google lit la question à l'écran et suggère la réponse « B ».
La tentation de tricher était soudain à portée de clics le 2 septembre, lorsque Google a discrètement ajouté un bouton « Aide aux devoirs » à Chrome, le navigateur web le plus populaire au monde. Ce bouton apparaît automatiquement sur les sites web de cours utilisés par la majorité des étudiants américains et de nombreux lycéens. Appuyer dessus lance Google Lens, un service qui lit le contenu de la page et peut fournir une vue d'ensemble de l'IA aux questions, y compris pendant les examens.
Les enseignants avec qui j'ai discuté sont alarmés. Écoles, dont l'Université Emory, l'Université d'Alabama, l'Université de Californie à Los Angeles et l'Université de Californie à Berkeley ont alerté les enseignants sur l'apparition du bouton dans la zone URL des sites de cours et sur leur capacité limitée à le contrôler.
L'outil de triche de Chrome illustre la ruée vers l'or des géants de la tech en matière d'IA : lancer d'abord, évaluer les conséquences ensuite et laisser la société faire le ménage.
« Google porte atteinte à l'intégrité académique en imposant l'IA aux étudiants pendant les examens », déclare Ian Linkletter, bibliothécaire à l'Institut de technologie de la Colombie-Britannique, qui m'a le premier signalé le problème. « Google tente de dissuader les enseignants de réglementer l'IA dans leurs cours, et cela pourrait fonctionner. Google Chrome détient la part de marché nécessaire pour changer le comportement des étudiants, et il semble que ce soit l'objectif. » Plusieurs jours après avoir contacté Google à propos du problème, l'entreprise m'a indiqué avoir temporairement suspendu le bouton d'aide aux devoirs, sans toutefois s'engager à le maintenir désactivé. « Les élèves nous ont fait part de leur intérêt pour les outils qui les aident à apprendre et à comprendre visuellement. Nous effectuons donc des tests pour proposer un moyen plus simple d'accéder à Lens pendant la navigation », a déclaré Craig Ewer, porte-parole de Google, dans un communiqué.
« Nous continuons de collaborer étroitement avec les enseignants et nos partenaires afin d'améliorer l'utilité de nos outils d'aide à l'apprentissage », a-t-il ajouté.
Les développeurs de logiciels pédagogiques largement utilisés affirment avoir tenté de convaincre Google d'empêcher que son IA ne soit utilisée à des fins de tricherie. « Nous ne soutenons ni ne cautionnons cet outil, ni tout ce qui pourrait mener à la malhonnêteté académique », déclare Melissa Loble, directrice académique d'Instructure, qui développe le logiciel de cours Canvas, utilisé par la moitié des étudiants de l'enseignement supérieur et un tiers des élèves du primaire et du secondaire aux États-Unis et au Canada.
« Nous sommes ravis d'apprendre que Google a suspendu cette extension pour le moment. Cependant, nous partageons également les inquiétudes soulevées par cet outil quant aux implications pour l'intégrité académique et la confidentialité et la sécurité des données des élèves », déclare Colin Horgan, porte-parole de D2L, qui développe le logiciel scolaire concurrent Brightspace.
Je n'ai trouvé aucun rapport public d'élèves utilisant l'aide aux devoirs de Chrome pour tricher, mais l'année scolaire est encore précoce pour de nombreux établissements et beaucoup d'élèves ignorent peut-être encore son existence.
Qui dirige les salles de classe, les enseignants ou les entreprises technologiques ?
Le bouton d'aide aux devoirs de Chrome n'est pas le premier outil d'IA à perturber les enseignants. Depuis l'arrivée de ChatGPT il y a près de trois ans, les étudiants l'utilisent à la fois pour tricher et comme ressource pour leurs recherches ou leurs brainstormings. Cela a alimenté une réflexion sur l'utilité de l'éducation dans un monde d'IA, et a également donné naissance à une industrie d'outils permettant de détecter les tricheries générées par l'IA. Il existe désormais des outils d'IA dédiés, comme Cluely, qui aident les utilisateurs à « [tricher sur tous les sujets] ». De plus, les nouveaux navigateurs web IA tentent de séduire les jeunes utilisateurs en leur promettant une IA toujours à portée de main.
À l'automne dernier, 26 % des adolescents américains âgés de 13 à 17 ans déclaraient utiliser ChatGPT pour leurs devoirs, selon le Pew Research Center. C'est le double du taux de 2023. Et cette semaine, OpenAI a rapporté que plus de 10 % des requêtes ChatGPT effectuées par des personnes de plus de 18 ans concernent le tutorat ou l'enseignement.
Google affirme que sa fonction Lens fait partie depuis longtemps du navigateur Chrome, permettant de rechercher des images et du texte directement sur les pages web. Plus tôt cette année, Google a également ajouté un bouton à Chrome pour lancer son chatbot Gemini, qui peut également voir le contenu affiché sur l'écran de l'utilisateur.
Cependant, le bouton d'aide aux devoirs dépasse les bornes, selon les enseignants, car il s'adresse aux étudiants et normalise l'utilisation de l'IA dans un domaine où elle n'a pas sa place. Plusieurs enseignants m'ont montré comment il fournit des réponses IA pendant les quiz, alors que les étudiants pourraient même penser qu'il s'agit d'une partie officiellement approuvée du cours. Ignorer un outil proposant des réponses faciles peut exiger une grande maîtrise de soi, une qualité souvent absente chez les étudiants stressés.
Plusieurs enseignants m'ont confié être perplexes quant à l'apparition du bouton sur certains sites web de cours et pages d'évaluation, mais pas sur d'autres. Google indique seulement que l'aide aux devoirs peut apparaître lorsque ses systèmes estiment qu'elle pourrait être utile au site consulté.
Autre préoccupation : l'utilisation de cet outil pourrait envoyer des données d'un site web de cours privé à Google. « Collecter des données sur un site protégé par mot de passe est à la fois irresponsable et contraire à l'éthique », déclare Sage Freeman, doyen associé du Chemeketa Community College de Salem, dans l'Oregon. Google m'a indiqué ne pas enregistrer actuellement de données au-delà du stockage temporaire nécessaire au traitement de la requête spécifique, et aucune donnée n'est utilisée pour entraîner son IA.
Dans cet exemple de quiz, Google Lens donne une réponse « Aperçu de l'IA » à une question à l'écran. (Illustration du Washington Post ; capture d'écran de Sage Freeman)
Les établissements scolaires peuvent désactiver Lens dans Chrome, mais uniquement si les étudiants utilisent des identifiants Chrome avec des comptes Google for Education. Ce n'est pas particulièrement utile dans le cadre universitaire, où les étudiants disposent généralement de leur propre matériel.
« Je suis stupéfait que la réponse de Google décrive cela comme un soutien au processus d'apprentissage », déclare Brandon Cooke, professeur de philosophie à l'Université d'État du Minnesota à Mankato. « Je préférerais de loin que les étudiants viennent me voir pour obtenir de l'aide, plutôt que de quitter le ranch. »
Lorsqu'il a testé le bouton d'aide aux devoirs sur ses propres évaluations, les réponses proposées étaient parfois bonnes, et parfois non. « Les élèves ne sont pas aussi aidés qu'ils pourraient le croire en utilisant ce bouton, au lieu de guides de ressources rédigés par des spécialistes », explique-t-il. (Mes propres tests de réponses générées par l'IA montrent qu'ils présentent encore des angles morts importants.)
D'autres enseignants se sont indignés du fait que Google impose l'IA dans leurs salles de classe. « Comment les enseignants peuvent-ils réellement choisir d'utiliser intentionnellement l'IA alors qu'elle est simplement injectée dans les environnements éducatifs sans avertissement, sans test et sans consultation ? », s'interroge Eamon Costello, professeur associé à l'Université de la ville de Dublin.
Il affirme que la pandémie de Covid-19 a contraint les écoles à tout numériser, et qu'elles sont maintenant obligées de tester l'IA générative en direct sur les élèves. « Nous sommes pris dans une ruée vers l’or de l’IA dans l’éducation », dit-il.