Incidentes Asociados
La IA demasiado ansiosa de YouTube podría haber malinterpretado una conversación sobre ajedrez como un lenguaje racista.
El verano pasado, un YouTuber que produce videos de ajedrez populares vio su canal bloqueado por incluir lo que el sitio llamó contenido "dañino y peligroso".
YouTube no explicó por qué había bloqueado al ajedrecista croata Antonio Radic, también conocido como 'Agadmator', pero el servicio se restableció 24 horas después.
Los informáticos de Carnegie Mellon sospechan que la discusión de Radic sobre "blanco contra negro" con un gran maestro activó accidentalmente los filtros de IA de YouTube.
Ejecutando simulaciones con software entrenado para detectar discurso de odio, encontraron que más del 80 por ciento de los videos de ajedrez marcados por discurso de odio carecían de alguno, pero incluían términos como 'negro', 'blanco', 'ataque' y 'amenaza'.
Los investigadores sugieren que las plataformas de redes sociales incorporen lenguaje de ajedrez en sus algoritmos para evitar más confusiones.
El popular youtuber de ajedrez Antonio Radic vio bloqueado su canal el verano pasado por contenido "dañino y peligroso". Él cree que la IA de la plataforma lo marcó por error por discutir "negro contra blanco" en una conversación de ajedrez.
Con más de un millón de suscriptores, Agadmator es considerada la vertical de ajedrez más popular en YouTube.
Pero el 28 de junio, el canal de Radic fue bloqueado luego de que publicara un segmento con el Gran Maestro Hikaru Nakamura, cinco veces campeón y el estadounidense más joven en ganar el título de Gran Maestro.
YouTube no le proporcionó una razón para bloquear el canal.
Además de los moderadores humanos, YouTube usa algoritmos de inteligencia artificial para descubrir contenido prohibido, pero si no se les proporcionan los ejemplos correctos para brindar contexto, esos algoritmos pueden marcar videos benignos.
Los investigadores de Carnegie Mellon probaron dos clasificadores de voz superiores, un software de inteligencia artificial que puede entrenarse para detectar el discurso de odio. Más del 80 por ciento de los comentarios que marcaron los programas carecían de lenguaje racista, pero sí incluían términos de ajedrez como 'negro', 'blanco', 'ataque' y 'amenaza'.
El canal de Radic se restableció después de 24 horas, lo que lo llevó a especular que su uso de la frase 'negro contra blanco' en Nakamura fue el culpable.
En ese momento, estaba hablando de los dos lados opuestos en un juego de ajedrez.
Ashiqur R. KhudaBukhsh, científico informático del Instituto de Tecnologías del Lenguaje de Carnegie Melon, sospechaba que Radic tenía razón.
"No sabemos qué herramientas usa YouTube, pero si confían en la inteligencia artificial para detectar lenguaje racista, este tipo de accidente puede ocurrir", dijo KhudaBukhsh.
Para probar su teoría, KhudaBukhsh y su colega investigador Rupak Sarkar realizaron pruebas en dos clasificadores de voz de última generación, un software de inteligencia artificial que puede entrenarse para detectar el discurso de odio.
El canal de Radic fue bloqueado durante 24 horas después de que publicó este video, que presenta una conversación con el Gran Maestro Hikaru Nakamura.
Utilizando el software en más de 680.000 comentarios tomados de cinco canales populares de ajedrez de YouTube, encontraron que el 82 por ciento de los comentarios marcados en un conjunto de muestra no incluían ningún lenguaje racista o discurso de odio evidente.
Palabras como 'negro', 'blanco', 'ataque' y 'amenaza' parecían haber activado los filtros, dijeron KhudaBukhsh y Sarkar en una presentación este mes en la conferencia anual de la Asociación para el Avance de la IA.
La precisión del software depende de los ejemplos que proporcione, dijo KhudaBukhsh, y los conjuntos de datos de entrenamiento para los clasificadores de YouTube "probablemente incluyan algunos ejemplos de charlas de ajedrez, lo que lleva a una clasificación errónea".
Radić, de 33 años, comenzó su canal de YouTube en 2017 y tiene más de un millón de suscriptores. Su video más popular, una reseña de un partido de 1962, obtuvo más de 5,5 millones de visitas.
Si alguien tan conocido como Radic está siendo bloqueado por error, agregó, "bien puede estar ocurriendo en silencio a muchas otras personas que no son tan conocidas".
YouTube se negó a indicar qué causó que se marcara el video de Radic, pero le dijo a Mail Online: "Cuando nos enteramos de que un video se eliminó por error, actuamos rápidamente para restablecerlo".
"También ofrecemos a quienes suben contenido la capacidad de apelar las eliminaciones y volveremos a revisar el contenido", dijo un representante. "Agadmator apeló la eliminación y rápidamente restablecimos el video".
Radić, de 33 años, comenzó su canal de YouTube en 2017 y, en un año, sus ingresos superaron su trabajo diario como camarógrafo de bodas.
"Siempre me encantó el ajedrez, pero vivo en un pueblo pequeño y no había mucha gente con la que pudiera hablar sobre [eso]", le dijo a ESPN el año pasado. "Entonces, comenzar un canal de YouTube tenía sentido".
Su video más popular, una revisión de un partido de 1962 entre Rashid Nezhmetdinov y Oleg Chernikov, ha obtenido más de 5,5 millones de visitas hasta la fecha.
Los bloqueos de COVID han despertado un renovado interés en el ajedrez: desde marzo de 2020, el servidor y la red social Chess.com ha agregado aproximadamente 2 millones de nuevos miembros por mes desde que comenzó la pandemia, informó Annenberg Media.
El juego de reyes también se ha beneficiado de la popularidad de 'The Queen's Gambit', una miniserie aclamada sobre una maestra de ajedrez con problemas que se estrenó en Netflix en octubre.