Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 15

Incidentes Asociados

Incidente 113 Reportes
Google’s YouTube Kids App Presents Inappropriate Content

Loading...
Los inquietantes videos de YouTube que están engañando a los niños
bbc.com · 2017

La reproducción multimedia no es compatible con su dispositivo

Miles de videos en YouTube parecen versiones de dibujos animados populares, pero contienen contenido perturbador e inapropiado que no es apto para niños.

Si no estás prestando mucha atención, puede parecer un video ordinario con Peppa Pig, la atrevida estrella porcina de su propia serie animada. Pero poco después de presionar play en este clip de YouTube en particular, la trama se vuelve oscura. Aparece un dentista con una enorme jeringa. A Peppa le sacan los dientes. El llanto angustiado se puede escuchar en la banda sonora.

La madre y periodista Laura June notó casi de inmediato que algo no estaba del todo bien mientras su hija de tres años lo observaba.

"Peppa grita y llora mucho y el dentista es un poco sádico y está muy, muy lejos de lo que debería ver un niño de tres años", dice June. Escribió sobre sus experiencias en el sitio web The Outline.

"Pero la animación está lo suficientemente cerca de parecerse a Peppa: es cruda pero está lo suficientemente cerca como para que mi hija dijera 'Esta es Peppa Pig'".

Está lejos de ser un caso aislado: BBC Trending ha encontrado cientos de videos similares de personajes de dibujos animados infantiles con temas inapropiados. Además de Peppa Pig, hay videos similares con personajes de la película de Disney Frozen, la franquicia Minions, Doc McStuffins, Thomas the Tank Engine y muchos más.

Algunos de los videos son parodias o tienen un contenido tan exagerado que claramente están destinados a audiencias maduras. Otros son copias no autorizadas de dibujos animados auténticos o usan los personajes de manera inocente, lo que quizás sea preocupante para los abogados de derechos de autor, pero no necesariamente perjudicial para los niños.

Sin embargo, muchos, como el video que vio la hija de Laura June, contienen contenido inquietante y pueden pasar por dibujos animados reales, especialmente cuando los ven niños.

Derechos de autor de la imagen SmileKidsTV/YouTube Image caption Algunas de las caricaturas muestran violencia o situaciones aterradoras.

Más de Tendencias de la BBC

Visita la página de Tendencias en Facebook

Cientos de estos videos existen en YouTube y algunos generan millones de visitas. Un canal, "Toys and Funny Kids Surprise Eggs" es una de las 100 cuentas de YouTube más vistas en el mundo: sus videos tienen más de 5 mil millones de visitas.

Su página de inicio presenta una foto de un lindo niño pequeño junto con imágenes oficiales de Peppa Pig, Thomas the Tank Engine, Cookie Monster, Mickey y Minnie Mouse y Elsa de Frozen.

Pero los videos en el canal tienen títulos como "FROZEN ELSA HUGE SNOT", "NAKED HULK LOSES HIS PANTS" y "BLOODY ELSA: Frozen Elsa's Arm is Broken by Spiderman". Presentan violencia animada y humor de baño gráfico.

Las personas detrás de la cuenta no respondieron a la solicitud de entrevista de Trending. Intentamos contactar a otros productores de videos similares y obtuvimos el mismo resultado.

Cómo evitar videos inapropiados en YouTube

• La aplicación YouTube Kids filtra la mayoría de los videos perturbadores, pero no todos.

• YouTube sugiere activar el "modo restringido" que se puede encontrar en la parte inferior de las páginas de YouTube:

Derechos de autor de la imagen YouTube

• La NSPCC también tiene una serie de pautas sobre cómo mantenerse seguro en línea, y hay más recursos en el sitio Stay Safe de la BBC.

Derechos de autor de la imagen Candy Family/YouTube

Trending también contactó a dos compañías detrás de la serie de dibujos animados que se está estafando, Disney y EntOne, el distribuidor de Peppa Pig. Ninguno quiso comentar.

Entonces, ¿deberían los padres tener más cuidado cuando se trata de permitir que sus hijos vean dibujos animados en YouTube?

Sonia Livingstone es experta en seguridad infantil en línea y profesora de psicología social en la London School of Economics,

"Es perfectamente legítimo que un padre crea que algo llamado Peppa Pig va a ser Peppa Pig", dice. "Y creo que muchos de ellos han llegado a confiar en YouTube... como una forma de entretener a su hijo durante diez minutos mientras el padre hace una llamada telefónica. Creo que si quiere ser una marca confiable, los padres deben saber que la protección es en su lugar."

"No creo que queramos vigilarlo para todo el mundo", dice Livingstone. "Mucho de este material es satírico, creativo, o en realidad ofensivo, pero dentro de la libertad de expresión. Lo que necesitamos es protección infantil".

Derechos de autor de la imagen Candy Family/YouTube

YouTube no ofreció un portavoz para la entrevista, pero en un comunicado dijo: "Nos tomamos los comentarios muy en serio. Apreciamos que las personas nos llamen la atención sobre contenido problemático y hacemos que sea fácil para cualquiera marcar un video".

"Los videos marcados se revisan manualmente las 24 horas del día, los 7 días de la semana y los videos que no pertenecen a la aplicación se eliminan en cuestión de horas. Para los padres que desean una experiencia más restringida, recomendamos que desactiven la función de búsqueda en la aplicación".

La compañía también sugirió que los padres usen la aplicación YouTube Kids, que está disponible para teléfonos móviles y tabletas, y activen el "modo restringido" que limita el contenido marcado. Se puede encontrar en la parte inferior de cualquier página del sitio de YouTube, pero advierte que "ningún filtro es 100% preciso".

Y desde que Trending comenzó a investigar

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd