Incidents associés
"The Queen's Gambit", la récente mini-série télévisée sur un maître des échecs, a peut-être suscité un intérêt accru pour les échecs, mais un mot au sage : les discussions sur les réseaux sociaux sur les couleurs des pièces de jeu pourraient conduire à des malentendus, du moins pour la haine. C'est ce qu'une paire de chercheurs de l'Université Carnegie Mellon soupçonne d'être arrivé à Antonio Radić, ou "agadmator", un joueur d'échecs croate qui héberge une chaîne YouTube populaire. En juin dernier, son compte a été bloqué pour contenu « nuisible et dangereux ».
YouTube n'a jamais fourni d'explication et a rétabli la chaîne dans les 24 heures, a déclaré Ashique R. KhudaBukhsh un scientifique de projet au [Language Technologies Institute](https: //www.lti.cs.cmu.edu/) (LTI). Il est néanmoins possible que la conversation "noir contre blanc" lors de l'interview de Radić avec le grand maître Hikaru Nakamura ait déclenché un logiciel qui détecte automatiquement le langage raciste, a-t-il suggéré.
"Nous ne savons pas quels outils YouTube utilise, mais s'ils s'appuient sur l'intelligence artificielle pour détecter le langage raciste, ce genre d'accident peut se produire", a déclaré KhudaBukhsh. Et si cela est arrivé publiquement à quelqu'un d'aussi connu que Radić, cela pourrait bien arriver discrètement à beaucoup d'autres personnes moins connues.
Pour voir si cela était faisable, KhudaBukhsh et Rupak Sarkar, un ingénieur de recherche de cours LTI, ont testé deux classificateurs de discours à la pointe de la technologie – un type de logiciel d'IA qui peut être formé pour détecter les indications de discours de haine. Ils ont utilisé les classificateurs pour filtrer plus de 680 000 commentaires recueillis sur cinq chaînes YouTube populaires axées sur les échecs. Ils ont ensuite échantillonné au hasard 1 000 commentaires qu'au moins l'un des classificateurs avait signalés comme discours de haine. Lorsqu'ils ont examiné manuellement ces commentaires, ils ont constaté que la grande majorité - 82% - n'incluait pas de discours de haine. Des mots tels que noir, blanc, attaque et menace semblaient être des déclencheurs, ont-ils déclaré. Comme pour d'autres programmes d'IA qui dépendent de l'apprentissage automatique, ces classificateurs sont entraînés avec un grand nombre d'exemples et leur précision peut varier en fonction de l'ensemble d'exemples utilisés. Par exemple, KhudaBukhsh s'est souvenu d'un exercice qu'il a rencontré en tant qu'étudiant, dans lequel le but était d'identifier les "chiens paresseux" et les "chiens actifs" dans une série de photos. De nombreuses photos d'entraînement de chiens actifs montraient de larges étendues d'herbe, car les chiens qui couraient étaient souvent au loin. En conséquence, le programme identifiait parfois des photos contenant de grandes quantités d'herbe comme exemples de chiens actifs, même si les photos n'incluaient aucun chien. , conduisant à une mauvaise classification, a-t-il noté.
Le document de recherche de KhudaBukhsh et Sarkar, récemment diplômé du Kalyani Government Engineering College en Inde, a remporté ce mois-ci la meilleure présentation de résumé étudiant de trois minutes à la [conférence annuelle de l'Association pour l'avancement de l'IA] (https://aaai.org /Conférences/AAAI-21/).