Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 6

Incidentes Asociados

Incidente 113 Reportes
Google’s YouTube Kids App Presents Inappropriate Content

Loading...
Lo que los padres deben saber sobre el contenido inapropiado en YouTube
goodmorningamerica.com · 2018

Después de varios informes de contenido inapropiado en YouTube durante el año pasado, "Good Morning America" quiso echar un vistazo más de cerca al sitio. ¿Con qué frecuencia los niños terminan viendo contenido inapropiado en la plataforma de video? Hablamos con un grupo de preadolescentes del área de Filadelfia y sus padres, quienes dicen que sus hijos suelen ver YouTube.

Esto es lo que dijeron los padres cuando se les preguntó si alguna vez habían tratado de quitarles YouTube a sus hijos.

“Es como el fin del mundo”, dijo Eve Ehrich, madre de tres hijos.

“Estás acabando con su vida por un día”, dijo otro padre, Jaime Meltzer.

Casi todos los padres dijeron que usan algún tipo de control parental en sus computadoras y dispositivos móviles para tratar de limitar la exposición de sus hijos a contenido inapropiado.

Los niños con los que hablamos tenían entre 10 y 13 años y dijeron que saben quién es "amigable con los niños" en YouTube.

Sam, de 11 años, dijo que SuperMarioLogan es “uno de mis canales favoritos. Era un video sugerido. Y lo vi y siguió atrayéndome para ver más videos”.

Los otros dos niños del grupo dijeron que conocen a “Jeffy”, un títere del popular canal de YouTube SuperMarioLogan.

“Atrae a los niños porque no pensarías en él como inapropiado por su apariencia”, dijo David, de 13 años.

El grupo de vigilancia familiar Common Sense Media llamó a SuperMarioLogan "Tu pesadilla en línea básica para padres de niños pequeños". El grupo, que comenzó a calificar a los YouTubers este año debido a las abrumadoras solicitudes de los padres, señaló que SuperMarioLogan está destinado a mayores de 17 años.

"YouTube es el punto más doloroso para los padres", dijo Jill Murphy, editora en jefe de Common Sense Media, a "Good Morning America". “Parte de esto es que los padres sienten que están en la oscuridad y no tienen idea de lo que sus hijos están haciendo en línea”.

Incluso los niños con los que habló "GMA" acordaron que YouTube no hace lo suficiente para bloquear contenido inapropiado y que no es una cuestión de confianza.

“Creo que a veces los niños se sienten atraídos. No es su culpa”, dijo Aubrey, de 13 años. “Parece amigable para los niños. Pero luego lo ves y realmente no sabes que no lo es”.

"GMA" mostró algunas de las entrevistas de los niños a Murphy.

“Desde el punto de vista del desarrollo, los niños ni siquiera están preparados a esa edad para tener los medios para apagar YouTube, la reproducción automática. Ni siquiera tienen el autocontrol para manejar eso”, dijo Murphy.

El creador de SuperMarioLogan le dijo a "GMA" que ha perdido ingresos desde que YouTube comenzó a restringir la edad y desmonetizar sus videos.

"Common Sense Media solo vio nuestro contenido anterior, y su revisión fue precisa únicamente con respecto a esos videos antiguos", dijo en un comunicado. "Invitamos a Common Sense Media a realizar una revisión de nuestros videos más nuevos, que tienen un contenido mucho más limpio. Es importante tener en cuenta que cuando comenzamos a crear estos videos en 2008, nosotros mismos éramos niños. Éramos solo unos pocos adolescentes haciendo el tonto. Dado que éramos solo niños, no entendíamos muchas cosas sobre YouTube o la audiencia que atraeríamos posteriormente. Hoy es muy diferente. Hemos ajustado nuestro contenido para atraer a una audiencia más amplia".

"Si bien es de interés de todos garantizar que los niños no estén expuestos a contenido inapropiado en línea, en última instancia es responsabilidad de los padres, tutores y/o adultos supervisores. Estas son las únicas personas que tienen control sobre a qué tienen acceso sus hijos".

YouTube en un comunicado a "GMA" señaló que el sitio ofrece YouTube Kids, que denomina la alternativa segura para niños y familias.

“Nuestro sitio principal de YouTube es para mayores de 13 años... Proteger a las familias es nuestra prioridad y creamos la aplicación YouTube Kids para ofrecer a los padres una alternativa más segura para sus hijos”, según el comunicado. aumentar nuestros esfuerzos para filtrar por edad los videos marcados en la aplicación principal que son más adecuados para audiencias mayores y aumentar los recursos para eliminar el contenido que no cumple con nuestras políticas. Sabemos que hay más trabajo por hacer, así que hemos contratado a expertos externos para que nos ayuden a evaluar este panorama en evolución, y estamos lanzando nuevas herramientas en YouTube Kids para que los padres elijan una experiencia personalizada para sus hijos”.

YouTube establece en sus términos de servicio que no está destinado a niños menores de 13 años.

Sin embargo, los padres que hablaron con "GMA" no estaban al tanto de ese aspecto de los términos del servicio.

Además, YouTube tiene herramientas que dice que pueden ayudar a los padres a filtrar contenido inapropiado.

¿Qué tan bien funcionan las restricciones de edad de YouTube?

4:14

"GMA" explora las restricciones de edad de YouTube a raíz de los titulares sobre contenido inapropiado que es popular para los niños.

"GMA" examinó dos herramientas que los padres pueden usar para filtrar contenido para niños en el sitio principal de YouTube.

Creamos una cuenta para un niño de 14 años para que el contenido con restricción de edad se descartara y activamos el "modo restringido", que se supone que filtra el contenido potencialmente para adultos.

Incluso con estas restricciones, encontramos contenido sexual entrelazado con videos de personas que jugaban versiones personalizadas de los populares juegos infantiles Minecraft y Roblox.

"El algoritmo se concentra en ti y te dice: 'Quieres ver más y más y más de estas cosas', y solo lo pone frente a los niños, nuevamente, que están en modo restringido", dijo Campaign For a Commercial. Josh Golin de Free Childhood, quien observó el contenido de YouTube con "GMA".

La mayoría de los videos fueron eliminados o colocados detrás de filtros después de que "GMA" le informara a YouTube sobre los hallazgos. Varios de los videos de Minecraft y Roblox que involucran actividad sexual se dejaron sin restricciones de edad.

"Roblox se compromete a brindar una comunidad segura y tenemos tolerancia cero con el contenido que viole nuestras Reglas de conducta", dijo Roblox en un comunicado a "GMA". "Los videos destacados datan de 2011 y muestran características que no son posibles en la plataforma actual. Usamos una combinación de tecnología y un sólido equipo de moderadores para identificar y eliminar cualquier contenido o comportamiento cuestionable que viole nuestras reglas de conducta. En Además, también somos proactivos al identificar y solicitar que los sitios en la web, como YouTube, eliminen cualquier contenido que no represente la verdadera naturaleza o funcionalidad de la plataforma Roblox”.

YouTube le dijo a "GMA" en un comunicado que "proteger a las familias es nuestra prioridad".

"Proteger a las familias es nuestra prioridad y creamos la aplicación YouTube Kids para ofrecer a los padres una alternativa más segura para sus hijos", se lee en el comunicado. "Más allá de eso, hemos incrementado nuestros esfuerzos para filtrar por edad los videos marcados en la aplicación principal que son más adecuados para audiencias mayores y hemos aumentado los recursos para eliminar el contenido que no cumple con nuestras políticas.

"Sabemos que hay más trabajo por hacer, así que hemos contratado a expertos externos para que nos ayuden a evaluar este panorama en evolución y estamos lanzando nuevas herramientas en YouTube Kids para que los padres elijan una experiencia personalizada para sus hijos", dijo la compañía.

YouTube también le dijo a "GMA" que desde entonces ha creado más controles parentales en YouTube Kids para que solo se puedan usar videos proyectados por moderadores humanos.

Los padres tienen que girar los controles sobre sí mismos, y descubrimos que parecen funcionar. Al desactivar la búsqueda, los padres pueden limitar a los niños a videos que hayan sido verificados por el equipo de YouTube Kids.

Los padres también pueden elegir colecciones de canales recomendados por YouTube Kids y sus socios. Se supone que una función en la que los padres pueden elegir videos estará disponible a finales de este año.

Los defensores de los niños dicen que también hay pasos que los padres pueden tomar por su cuenta, desde verificar el historial del navegador de su hijo hasta ver YouTube junto con su hijo y hablar con su hijo sobre lo que están viendo en línea.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd