Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Incidente 144: YouTube's AI Mistakenly Banned Chess Channel over Chess Language Misinterpretation

Descripción: YouTube's AI-powered hate speech detection system falsely flagged chess content and banned chess creators allegedly due to its misinterpretation of strategy language such as "black," "white," and "attack" as harmful and dangerous.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Presunto: un sistema de IA desarrollado e implementado por YouTube, perjudicó a Antonio Radic , YouTube chess content creators y YouTube users.

Estadísticas de incidentes

ID
144
Cantidad de informes
6
Fecha del Incidente
2020-06-28
Editores
Sean McGregor, Khoa Lam
Applied Taxonomies
GMF, CSETv1, MIT

Clasificaciones de la Taxonomía GMF

Detalles de la Taxonomía

Known AI Goal Snippets

One or more snippets that justify the classification.
 

(Snippet Text: YouTube's overeager AI might have misinterpreted a conversation about chess as racist language. , Related Classifications: Hate Speech Detection), (Snippet Text: Using the software on over 680,000 comments taken from five popular YouTube chess channels, they found 82 percent of the comments flagged in a sample set didn't include any obvious racist language or hate speech., Related Classifications: Hate Speech Detection)

Clasificaciones de la Taxonomía CSETv1

Detalles de la Taxonomía

Incident Number

The number of the incident in the AI Incident Database.
 

144

AI Tangible Harm Level Notes

Notes about the AI tangible harm level assessment
 

It is possible that Antonio Radic may have lost some revenue from having his YouTube channel suspended for 24 hours, given its popularity. However, this is not explicitly mentioned in the reports.

Special Interest Intangible Harm

An assessment of whether a special interest intangible harm occurred. This assessment does not consider the context of the intangible harm, if an AI was involved, or if there is characterizable class or subgroup of harmed entities. It is also not assessing if an intangible harm occurred. It is only asking if a special interest intangible harm occurred.
 

no

Date of Incident Year

The year in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the year, estimate. Otherwise, leave blank. Enter in the format of YYYY
 

2020

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

7.3. Lack of capability or robustness

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. AI system safety, failures, and limitations

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Informes del Incidente

Cronología de Informes

Incident Occurrence+4
AI confunde el chat de ajedrez 'blanco y negro' con racismo
Por qué un chat de YouTube sobre ajedrez fue marcado como discurso de odio
AI confunde el chat de ajedrez 'blanco y negro' con racismo

AI confunde el chat de ajedrez 'blanco y negro' con racismo

independent.co.uk

El algoritmo de YouTube bloquea accidentalmente la estrategia de AJEDREZ 'negro contra blanco'

El algoritmo de YouTube bloquea accidentalmente la estrategia de AJEDREZ 'negro contra blanco'

dailymail.co.uk

AI puede confundir las discusiones de ajedrez con conversaciones racistas

AI puede confundir las discusiones de ajedrez con conversaciones racistas

cmu.edu

YouTube AI malinterpreta el chat de ajedrez que involucra piezas 'negras' y 'blancas', banderas para el racismo

YouTube AI malinterpreta el chat de ajedrez que involucra piezas 'negras' y 'blancas', banderas para el racismo

techtimes.com

YouTube AI bloquea el canal de ajedrez después de confundir la discusión 'negro contra blanco' con racismo

YouTube AI bloquea el canal de ajedrez después de confundir la discusión 'negro contra blanco' con racismo

tribune.com.pk

Por qué un chat de YouTube sobre ajedrez fue marcado como discurso de odio

Por qué un chat de YouTube sobre ajedrez fue marcado como discurso de odio

wired.com

AI confunde el chat de ajedrez 'blanco y negro' con racismo
independent.co.uk · 2021
Traducido por IA

Las discusiones en línea sobre piezas de ajedrez en blanco y negro están confundiendo algoritmos de inteligencia artificial entrenados para detectar racismo y otros discursos de odio, según nueva investigación.

Los informáticos de la Univer…

El algoritmo de YouTube bloquea accidentalmente la estrategia de AJEDREZ 'negro contra blanco'
dailymail.co.uk · 2021
Traducido por IA

La IA demasiado ansiosa de YouTube podría haber malinterpretado una conversación sobre ajedrez como un lenguaje racista.

El verano pasado, un YouTuber que produce videos de ajedrez populares vio su canal bloqueado por incluir lo que el siti…

AI puede confundir las discusiones de ajedrez con conversaciones racistas
cmu.edu · 2021
Traducido por IA

"The Queen's Gambit", la miniserie de televisión reciente sobre un maestro de ajedrez, puede haber despertado un mayor interés en el ajedrez, pero una palabra para los sabios: hablar en las redes sociales sobre los colores de las piezas del…

YouTube AI malinterpreta el chat de ajedrez que involucra piezas 'negras' y 'blancas', banderas para el racismo
techtimes.com · 2021
Traducido por IA

Al principio, puede parecer increíble que un algoritmo de YouTube haya detectado una discusión de ajedrez como "racista" y la haya marcado como castigo. En el caso del YouTuber de ajedrez, fue bloqueado por la empresa de transmisión de vide…

YouTube AI bloquea el canal de ajedrez después de confundir la discusión 'negro contra blanco' con racismo
tribune.com.pk · 2021
Traducido por IA

El canal de ajedrez de YouTube más popular del mundo fue bloqueado después de que se configuraran algoritmos artificiales para detectar contenido racista y discursos de odio que confundieran la discusión sobre piezas de ajedrez en blanco y …

Por qué un chat de YouTube sobre ajedrez fue marcado como discurso de odio
wired.com · 2021
Traducido por IA

En junio pasado, Antonio Radić, el presentador de un [canal de ajedrez de YouTube] (https://www.youtube.com/channel/UCL5YbN5WLFD8dLIegT5QAbA) con más de un millón de suscriptores, transmitió en vivo una entrevista con el gran maestro [Hikar…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Robot at a Chinese Tech Fair Smashed a Glass Booth, Injuring a Visitor

Chinese Robot Smashes Booth and Injures Man at Shenzhen Hi-Tech Fair

Nov 2016 · 2 informes
Images of Black People Labeled as Gorillas

When It Comes to Gorillas, Google Photos Remains Blind

Jun 2015 · 24 informes
Chinese Chatbots Question Communist Party

Rogue chatbots deleted in China after questioning Communist Party

Aug 2017 · 16 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Robot at a Chinese Tech Fair Smashed a Glass Booth, Injuring a Visitor

Chinese Robot Smashes Booth and Injures Man at Shenzhen Hi-Tech Fair

Nov 2016 · 2 informes
Images of Black People Labeled as Gorillas

When It Comes to Gorillas, Google Photos Remains Blind

Jun 2015 · 24 informes
Chinese Chatbots Question Communist Party

Rogue chatbots deleted in China after questioning Communist Party

Aug 2017 · 16 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df