Incidents associés
Selon un nouveau [rapport](https://chaireia.openum.ca/publications/logiciels -de-surveillance-dexamens-en-ligne-en-temps-de-pandemie-a-la-recherche-dune-minimisation-des-risques-datteinte-a-la-vie-privee-des-etudiants/) publié par l'Université d'Ottawa et soutenu par le [Commissariat à la protection de la vie privée du Canada](https://www.priv.gc.ca/en/opc-actions-and-decisions/research/funding-for-privacy-research- and-knowledge-translation/completed-contributions-program-projects/2021-2022/p_2021-22_4/).
L'apprentissage en personne ayant été perturbé par la pandémie de COVID-19, de nombreux établissements se sont tournés vers des plateformes logicielles pour organiser des examens. Souvent basés sur l'intelligence artificielle, des outils tels que Respondus, Monitor, ProctorU, Examity et d'autres utilisent l'exploration de données et la reconnaissance faciale pour surveiller la tricherie - et présentent ce que Céline Castets-Renard, la professeure de droit qui a dirigé le projet, a appelé "les problèmes juridiques de discrimination socio-économique et respect de la vie privée.
Le rapport pointe vers familiar [issues](https://www.biometricupdate.com/?posttype=all&s = police + surveillance + ai) avec discrimination par l'IA, en particulier "l'excès de pouvoir tel que la surveillance publique ou la surveillance policière à l'aide d'un logiciel de reconnaissance faciale IA, avec un potentiel de discrimination, comme les préjugés de race, de sexe et d'âge". Mais il identifie également le risque de certains facteurs socio-économiques et situationnels qui pourraient déclencher des alertes logicielles injustifiées. Selon le rapport, "un animal domestique qui fait du bruit, comme un aboiement ou un gazouillis, lors d'un examen de surveillance en ligne a été identifié comme une cause de signalement d'un incident potentiel de tricherie". Les animaux domestiques, les enfants et d'autres variables audiovisuelles peuvent faire croire au logiciel de surveillance que quelque chose de suspect se passe alors que ce n'est pas le cas, un problème aggravé dans les grandes maisons multigénérationnelles.
Les outils biométriques, tels que la reconnaissance faciale, sont susceptibles d'erreurs similaires. "L'analyse biométrique de frappe qui sert à suivre les données de frappe, le suivi oculaire qui surveille et analyse les mouvements oculaires, la surveillance audio qui enregistre et surveille les étudiants par son et la détection faciale sont toutes des méthodes utilisées par certains logiciels de surveillance", indique le rapport de recherche. Et tous comportent des risques inacceptables que la technologie signale à tort certaines variations de données comme de la triche.
Le rapport se termine par une série de recommandations concernant la façon dont l'IA est définie et catégorisée, et comment la surveillance humaine des technologies de surveillance en évolution peut aider à maintenir la transparence et à réduire les erreurs et les biais. La recommandation finale résume soigneusement les conclusions des chercheurs, appelant à "une réflexion collective sur l'opportunité d'interdire certaines utilisations de l'IA, et les moyens de déterminer comment identifier ces utilisations interdites".