Journal des citations pour l'incident 144

Description: YouTube's AI-powered hate speech detection system falsely flagged chess content and banned chess creators allegedly due to its misinterpretation of strategy language such as "black," "white," and "attack" as harmful and dangerous.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique
Présumé : Un système d'IA développé et mis en œuvre par YouTube, endommagé Antonio Radic , YouTube chess content creators and YouTube users.

Statistiques d'incidents

ID
144
Nombre de rapports
6
Date de l'incident
2020-06-28
Editeurs
Sean McGregor, Khoa Lam

Classifications de taxonomie GMF

Détails de la taxonomie

Known AI Goal

Hate Speech Detection

Known AI Technology

Classification, Distributional Learning

Known AI Technical Failure

Distributional Bias

L'IA confond le chat d'échecs "en noir et blanc" avec du racisme
independent.co.uk · 2021

Selon nouvelle recherche.

Des informaticiens de l'Université Carnegie Mellon ont commencé à enquêter sur le problème de l'IA après qu'une chaîne d'échecs populaire sur YouTube a été bloquée pour contenu "nocif et dangereux" en juin dernier.…

L'algorithme de YouTube bloque accidentellement la stratégie CHESS "noir contre blanc"
dailymail.co.uk · 2021

L'IA trop enthousiaste de YouTube a peut-être mal interprété une conversation sur les échecs comme un langage raciste.

L'été dernier, un YouTuber qui produit des vidéos d'échecs populaires a vu sa chaîne bloquée pour avoir inclus ce que le …

L'IA peut confondre les discussions d'échecs avec des propos racistes
cmu.edu · 2021

"The Queen's Gambit", la récente mini-série télévisée sur un maître des échecs, a peut-être suscité un intérêt accru pour les échecs, mais un mot au sage : les discussions sur les réseaux sociaux sur les couleurs des pièces de jeu pourraien…

YouTube AI interprète mal le chat d'échecs impliquant des pièces «noires» et «blanches», des drapeaux pour le racisme
techtimes.com · 2021

Il peut être incroyable au premier abord qu'un algorithme de YouTube ait détecté une discussion d'échecs comme "raciste" et l'ait signalée pour punition. Dans le cas du YouTuber d'échecs, il a été bloqué par la société de streaming vidéo po…

YouTube AI bloque la chaîne d'échecs après avoir confondu la discussion "noir contre blanc" avec du racisme
tribune.com.pk · 2021

La chaîne d'échecs YouTube la plus populaire au monde a été bloquée après que des algorithmes artificiels mis en place pour détecter le contenu raciste et les discours de haine ont confondu la discussion sur les pièces d'échecs en noir et b…

Pourquoi un chat YouTube sur les échecs a été signalé pour discours de haine
wired.com · 2021

En juin dernier, Antonio Radić, l'animateur d'une chaîne d'échecs YouTube avec plus d'un million d'abonnés, diffusait en direct une interview du grand maître [Hikaru Nakamura]. (https://www.wired.com/story/hikaru-nakamura-twitch-chess/) lor…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents