Incident 144: L'IA de YouTube a banni par erreur une chaîne d'échecs en raison d'une mauvaise interprétation du langage échiquéen
Entités
Voir toutes les entitésClassifications de taxonomie CSETv1
Détails de la taxonomieIncident Number
144
AI Tangible Harm Level Notes
It is possible that Antonio Radic may have lost some revenue from having his YouTube channel suspended for 24 hours, given its popularity. However, this is not explicitly mentioned in the reports.
Special Interest Intangible Harm
no
Date of Incident Year
2020
Classifications de taxonomie GMF
Détails de la taxonomieKnown AI Goal Snippets
(Snippet Text: YouTube's overeager AI might have misinterpreted a conversation about chess as racist language. , Related Classifications: Hate Speech Detection), (Snippet Text: Using the software on over 680,000 comments taken from five popular YouTube chess channels, they found 82 percent of the comments flagged in a sample set didn't include any obvious racist language or hate speech., Related Classifications: Hate Speech Detection)
Risk Subdomain
7.3. Lack of capability or robustness
Risk Domain
- AI system safety, failures, and limitations
Entity
AI
Timing
Post-deployment
Intent
Unintentional
Rapports d'incidents
Chronologie du rapport
Selon nouvelle recherche.
Des informaticiens de l'Université Carnegie Mellon ont commencé à enquêter sur le problème de l'IA après qu'une chaîne d'échecs populaire sur YouTube a été bloquée pour contenu "nocif et dangereux" en juin dernier.…
L'IA trop enthousiaste de YouTube a peut-être mal interprété une conversation sur les échecs comme un langage raciste.
L'été dernier, un YouTuber qui produit des vidéos d'échecs populaires a vu sa chaîne bloquée pour avoir inclus ce que le …
"The Queen's Gambit", la récente mini-série télévisée sur un maître des échecs, a peut-être suscité un intérêt accru pour les échecs, mais un mot au sage : les discussions sur les réseaux sociaux sur les couleurs des pièces de jeu pourraien…
Il peut être incroyable au premier abord qu'un algorithme de YouTube ait détecté une discussion d'échecs comme "raciste" et l'ait signalée pour punition. Dans le cas du YouTuber d'échecs, il a été bloqué par la société de streaming vidéo po…
La chaîne d'échecs YouTube la plus populaire au monde a été bloquée après que des algorithmes artificiels mis en place pour détecter le contenu raciste et les discours de haine ont confondu la discussion sur les pièces d'échecs en noir et b …
En juin dernier, Antonio Radić, l'animateur d'une chaîne d'échecs YouTube avec plus d'un million d'abonnés, diffusait en direct une interview du grand maître [Hikaru Nakamura]. (https://www.wired.com/story/hikaru-nakamura-twitch-chess/) lor…
Variantes
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Images of Black People Labeled as Gorillas
Chinese Chatbots Question Communist Party
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Images of Black People Labeled as Gorillas