Problème 1483

L'IA trop enthousiaste de YouTube a peut-être mal interprété une conversation sur les échecs comme un langage raciste.

L'été dernier, un YouTuber qui produit des vidéos d'échecs populaires a vu sa chaîne bloquée pour avoir inclus ce que le site a qualifié de contenu "nocif et dangereux".

YouTube n'a pas expliqué pourquoi il avait bloqué le joueur d'échecs croate Antonio Radic, également connu sous le nom d'"Agadmator", mais le service a été rétabli 24 heures plus tard.

Les informaticiens de Carnegie Mellon soupçonnent que la discussion de Radic sur "noir contre blanc" avec un grand maître a accidentellement déclenché les filtres d'IA de YouTube.

En exécutant des simulations avec un logiciel formé pour détecter les discours de haine, ils ont découvert que plus de 80 % des vidéos d'échecs signalées comme des discours de haine en manquaient, mais incluaient des termes tels que "noir", "blanc", "attaque" et "menace".

Les chercheurs suggèrent que les plateformes de médias sociaux intègrent le langage des échecs dans leurs algorithmes pour éviter toute confusion supplémentaire.

Le populaire YouTubeur d'échecs Antonio Radic a vu sa chaîne bloquée l'été dernier pour contenu "nocif et dangereux". Il pense que l'IA de la plate-forme l'a signalé par erreur pour avoir discuté de "noir contre blanc" dans une conversation d'échecs

Avec plus d'un million d'abonnés, Agadmator est considéré comme la verticale d'échecs la plus populaire sur YouTube.

Mais le 28 juin, la chaîne de Radic a été bloquée après avoir posté un segment avec le grand maître Hikaru Nakamura, quintuple champion et le plus jeune Américain à remporter le titre de grand maître.

YouTube ne lui a pas fourni de raison pour bloquer la chaîne.

En plus des modérateurs humains, YouTube utilise des algorithmes d'intelligence artificielle pour dénicher les contenus interdits, mais s'ils ne reçoivent pas les bons exemples pour fournir un contexte, ces algorithmes peuvent signaler des vidéos bénignes.

Des chercheurs de Carnegie Mellon ont testé deux classificateurs de discours de premier plan, des logiciels d'IA qui peuvent être formés pour détecter les discours de haine. Plus de 80% des commentaires signalés par les programmes manquaient de langage raciste, mais ils incluaient des termes d'échecs tels que "noir", "blanc", "attaque" et "menace".

La chaîne de Radic a été rétablie après 24 heures, ce qui l'a amené à supposer que son utilisation de l'expression «noir contre blanc» dans le Nakamura était le coupable.

À l'époque, il parlait des deux camps opposés dans une partie d'échecs.

Ashiqur R. KhudaBukhsh, informaticien au Language Technologies Institute de Carnegie Melon, soupçonnait Radic d'avoir raison.

"Nous ne savons pas quels outils YouTube utilise, mais s'ils s'appuient sur l'intelligence artificielle pour détecter le langage raciste, ce genre d'accident peut se produire", a déclaré KhudaBukhsh.

Pour tester sa théorie, KhudaBukhsh et son collègue chercheur Rupak Sarkar ont effectué des tests sur deux classificateurs de discours de pointe, des logiciels d'IA qui peuvent être formés pour détecter les discours de haine.

La chaîne de Radic a été bloquée pendant 24 heures après avoir publié cette vidéo, présentant une conversation avec le grand maître Hikaru Nakamura

En utilisant le logiciel sur plus de 680 000 commentaires tirés de cinq chaînes d'échecs populaires sur YouTube, ils ont découvert que 82 % des commentaires signalés dans un échantillon n'incluaient aucun langage raciste ou discours de haine évident.

Des mots tels que "noir", "blanc", "attaque" et "menace" semblaient avoir déclenché les filtres, ont déclaré KhudaBukhsh et Sarkar lors d'une présentation ce mois-ci lors de la conférence annuelle de l'Association pour l'avancement de l'IA.

La précision du logiciel dépend des exemples donnés, a déclaré KhudaBukhsh, et les ensembles de données de formation pour les classificateurs de YouTube "incluent probablement quelques exemples de discours d'échecs, conduisant à une mauvaise classification".

Radić, 33 ans, a lancé sa chaîne YouTube en 2017 et compte plus d'un million d'abonnés. Sa vidéo la plus populaire, une critique d'un match de 1962, a recueilli plus de 5,5 millions de vues.

Si quelqu'un d'aussi connu que Radic est bloqué par erreur, a-t-il ajouté, "cela pourrait bien arriver discrètement à beaucoup d'autres personnes moins connues".

YouTube a refusé d'indiquer ce qui a causé le signalement de la vidéo de Radic, mais a déclaré à Mail Online : "Lorsqu'il est porté à notre attention qu'une vidéo a été supprimée par erreur, nous agissons rapidement pour la rétablir."

"Nous offrons également aux téléchargeurs la possibilité de faire appel des suppressions et de réexaminer le contenu", a déclaré un représentant. "Agadmator a fait appel de la suppression et nous avons rapidement rétabli la vidéo."

Radić, 33 ans, a lancé sa chaîne YouTube en 2017 et, en un an, ses revenus ont dépassé son travail quotidien de vidéaste de mariage.

"J'ai toujours aimé les échecs, mais je vis dans une petite ville et il n'y avait pas beaucoup de gens à qui je pouvais en parler", a-t-il déclaré à ESPN l'année dernière. "Donc, lancer une chaîne YouTube était logique."

Sa vidéo la plus populaire, une critique d'un match de 1962 entre Rashid Nezhmetdinov et Oleg Chernikov, a recueilli plus de 5,5 millions de vues à ce jour.

Les verrouillages COVID ont suscité un regain d'intérêt pour les échecs : depuis mars 2020, le serveur et le réseau social Chess.com a ajouté environ 2 millions de nouveaux membres par mois depuis le début de la pandémie, a rapporté Annenberg Media.

Le jeu des rois a également bénéficié de la popularité de "The Queen's Gambit", une mini-série acclamée sur une maîtresse d'échecs en difficulté qui est tombée sur Netflix en octobre.