Registro de citas para el Incidente 144

Description: YouTube's AI-powered hate speech detection system falsely flagged chess content and banned chess creators allegedly due to its misinterpretation of strategy language such as "black," "white," and "attack" as harmful and dangerous.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial
Presunto: un sistema de IA desarrollado e implementado por YouTube, perjudicó a Antonio Radic , YouTube chess content creators y YouTube users.

Estadísticas de incidentes

ID
144
Cantidad de informes
6
Fecha del Incidente
2020-06-28
Editores
Sean McGregor, Khoa Lam

Clasificaciones de la Taxonomía GMF

Detalles de la Taxonomía

Known AI Goal

Hate Speech Detection

Known AI Technology

Classification, Distributional Learning

Known AI Technical Failure

Distributional Bias

AI confunde el chat de ajedrez 'blanco y negro' con racismo
independent.co.uk · 2021

Las discusiones en línea sobre piezas de ajedrez en blanco y negro están confundiendo algoritmos de inteligencia artificial entrenados para detectar racismo y otros discursos de odio, según nueva investigación.

Los informáticos de la Univer…

El algoritmo de YouTube bloquea accidentalmente la estrategia de AJEDREZ 'negro contra blanco'
dailymail.co.uk · 2021

La IA demasiado ansiosa de YouTube podría haber malinterpretado una conversación sobre ajedrez como un lenguaje racista.

El verano pasado, un YouTuber que produce videos de ajedrez populares vio su canal bloqueado por incluir lo que el siti…

AI puede confundir las discusiones de ajedrez con conversaciones racistas
cmu.edu · 2021

"The Queen's Gambit", la miniserie de televisión reciente sobre un maestro de ajedrez, puede haber despertado un mayor interés en el ajedrez, pero una palabra para los sabios: hablar en las redes sociales sobre los colores de las piezas del…

YouTube AI malinterpreta el chat de ajedrez que involucra piezas 'negras' y 'blancas', banderas para el racismo
techtimes.com · 2021

Al principio, puede parecer increíble que un algoritmo de YouTube haya detectado una discusión de ajedrez como "racista" y la haya marcado como castigo. En el caso del YouTuber de ajedrez, fue bloqueado por la empresa de transmisión de vide…

YouTube AI bloquea el canal de ajedrez después de confundir la discusión 'negro contra blanco' con racismo
tribune.com.pk · 2021

El canal de ajedrez de YouTube más popular del mundo fue bloqueado después de que se configuraran algoritmos artificiales para detectar contenido racista y discursos de odio que confundieran la discusión sobre piezas de ajedrez en blanco y …

Por qué un chat de YouTube sobre ajedrez fue marcado como discurso de odio
wired.com · 2021

En junio pasado, Antonio Radić, el presentador de un [canal de ajedrez de YouTube] (https://www.youtube.com/channel/UCL5YbN5WLFD8dLIegT5QAbA) con más de un millón de suscriptores, transmitió en vivo una entrevista con el gran maestro [Hikar…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents