Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 6

Incidents associés

Incident 113 Rapports
Google’s YouTube Kids App Presents Inappropriate Content

Loading...
Ce que les parents doivent savoir sur les contenus inappropriés sur YouTube
goodmorningamerica.com · 2018

Après plusieurs signalements de contenu inapproprié sur YouTube au cours de l'année écoulée, "Good Morning America" a voulu examiner de plus près le site. À quelle fréquence les enfants finissent-ils par voir du contenu inapproprié sur la plate-forme vidéo ? Nous avons parlé avec un groupe d'adolescents de la région de Philadelphie et leurs parents, qui disent que leurs enfants regardent souvent YouTube.

Voici ce que les parents ont dit lorsqu'on leur a demandé s'ils avaient déjà essayé de retirer YouTube à leurs enfants.

"C'est comme la fin du monde", a déclaré Eve Ehrich, mère de trois enfants.

"Vous mettez fin à leur vie pendant une journée", a déclaré un autre parent, Jaime Meltzer.

Presque tous les parents ont déclaré utiliser une certaine forme de contrôle parental sur leurs ordinateurs et appareils mobiles pour tenter de limiter l'exposition de leurs enfants à des contenus inappropriés.

Les enfants à qui nous avons parlé étaient tous âgés de 10 à 13 ans et nous ont dit qu'ils savaient qui était "kid-friendly" sur YouTube.

Sam, 11 ans, a déclaré que SuperMarioLogan est "l'une de mes chaînes préférées. C'était une suggestion de vidéo. Et je l'ai regardé et ça m'a poussé à regarder plus de vidéos.

Les deux autres garçons du groupe ont dit qu'ils connaissaient "Jeffy", une marionnette sur la populaire chaîne YouTube SuperMarioLogan.

"Cela attire les enfants parce que vous ne le considéreriez pas comme inapproprié à cause de son apparence", a déclaré David, 13 ans.

Le groupe de surveillance familial Common Sense Media a appelé SuperMarioLogan "Votre cauchemar en ligne de base pour les parents de jeunes enfants." Le groupe, qui a commencé à évaluer les YouTubers cette année en raison des demandes accablantes des parents, a noté que SuperMarioLogan est destiné aux 17 ans et plus.

"YouTube est le plus gros problème pour les parents", a déclaré Jill Murphy, rédactrice en chef de Common Sense Media, à "Good Morning America". "Cela tient en partie au fait que les parents ont l'impression d'être dans le noir et n'ont aucune idée de ce que font leurs enfants en ligne."

Même les enfants avec lesquels "GMA" s'est entretenu ont convenu que YouTube n'en faisait pas assez pour bloquer les contenus inappropriés et que ce n'était pas une question de confiance.

"Je pense que parfois les enfants sont attirés. Ce n'est pas de leur faute", a déclaré Aubrey, 13 ans. « Ça a l'air adapté aux enfants. Mais ensuite vous le regardez, et vous ne savez pas vraiment que ce n'est pas le cas.

"GMA" a montré certaines des interviews des enfants à Murphy.

"Du point de vue du développement, les enfants ne sont même pas préparés à cet âge pour avoir les moyens d'éteindre YouTube, la lecture automatique. Ils n'ont même pas la maîtrise de soi pour gérer cela », a déclaré Murphy.

Le créateur de SuperMarioLogan a déclaré à "GMA" qu'il avait perdu des revenus depuis que YouTube avait commencé à limiter l'âge et à démonétiser ses vidéos.

"Common Sense Media n'a consulté que notre ancien contenu, et leur examen était exact uniquement en ce qui concerne ces anciennes vidéos", a-t-il déclaré dans un communiqué. "Nous invitons Common Sense Media à effectuer un examen de nos nouvelles vidéos, dont le contenu est beaucoup plus propre. Il est important de noter que lorsque nous avons commencé à créer ces vidéos en 2008, nous étions nous-mêmes des enfants. Nous n'étions que quelques adolescents qui s'amusaient. Étant donné que nous n'étions que des enfants, nous ne comprenions pas grand-chose à propos de YouTube ou de l'audience que nous allions attirer par la suite. Aujourd'hui, c'est très différent. Nous avons adapté notre contenu pour plaire à un public plus large. »

"Bien qu'il soit dans l'intérêt de tous de s'assurer que les enfants ne sont pas exposés à des contenus inappropriés en ligne, c'est en définitive la responsabilité des parents, des tuteurs et/ou des adultes surveillants. Ce sont les seules personnes qui contrôlent ce à quoi leurs enfants ont accès."

YouTube, dans une déclaration à "GMA", a noté que le site propose YouTube Kids, qu'il qualifie d'alternative sûre pour les enfants et les familles.

"Notre principal site YouTube est destiné aux personnes âgées de 13 ans et plus... La protection des familles est notre priorité et nous avons créé l'application YouTube Kids pour offrir aux parents une alternative plus sûre pour leurs enfants", selon le communiqué. "Au-delà de cela, nous avons augmenté intensifier nos efforts pour limiter l'âge des vidéos signalées sur l'application principale qui conviennent mieux aux publics plus âgés et augmenter les ressources pour supprimer le contenu qui ne respecte pas nos politiques. Nous savons qu'il y a encore du travail à faire, nous avons donc fait appel à des experts tiers pour nous aider à évaluer ce paysage en évolution, et nous lançons de nouveaux outils dans YouTube Kids pour que les parents puissent choisir une expérience personnalisée pour leur enfant.

YouTube indique dans ses conditions d'utilisation qu'il n'est pas destiné aux enfants de moins de 13 ans.

Cependant, les parents qui ont parlé avec "GMA" n'étaient pas au courant de cet aspect des conditions de service.

De plus, YouTube dispose d'outils qui, selon eux, peuvent aider les parents à filtrer les contenus inappropriés.

Dans quelle mesure les restrictions d'âge de YouTube fonctionnent-elles ?

4:14

"GMA" explore les restrictions d'âge de YouTube à la suite des gros titres sur les contenus inappropriés populaires auprès des enfants.

"GMA" a examiné deux outils que les parents peuvent utiliser pour filtrer le contenu pour les enfants sur le site principal de YouTube.

Nous avons créé un compte pour un enfant de 14 ans afin que le contenu soumis à une limite d'âge soit filtré, et nous avons activé le "mode restreint", qui est censé filtrer le contenu potentiellement mature.

Même avec ces restrictions, nous avons trouvé du contenu sexuel entrelacé avec des vidéos de personnes jouant à des versions personnalisées des jeux populaires pour enfants Minecraft et Roblox.

"L'algorithme se concentre sur vous et dit:" Vous voulez voir de plus en plus de ces choses ", et le met simplement devant les enfants, encore une fois, qui sont en mode restreint", a déclaré la campagne pour une publicité. Josh Golin de Free Childhood, qui a observé le contenu de YouTube avec "GMA".

La plupart des vidéos ont été retirées ou placées derrière des filtres après que "GMA" ait informé YouTube des résultats. Plusieurs des vidéos Minecraft et Roblox impliquant une activité sexuelle ont été laissées sans limite d'âge.

"Roblox s'engage à fournir une communauté sûre, et nous avons une tolérance zéro pour le contenu qui enfreint nos règles de conduite", a déclaré Roblox dans un communiqué à "GMA". "Les vidéos mises en évidence datent d'aussi loin que 2011 et présentent des fonctionnalités qui ne sont pas possibles sur la plate-forme actuelle. Nous utilisons une combinaison de technologie et une solide équipe de modérateurs pour identifier et supprimer tout contenu ou comportement douteux qui enfreint nos règles de conduite. Dans De plus, nous sommes également proactifs dans l'identification et la demande que les sites sur le Web, tels que YouTube, suppriment tout contenu qui ne décrit pas la véritable nature ou la fonctionnalité de la plate-forme Roblox.

YouTube a déclaré à "GMA" dans un communiqué que "la protection des familles est notre priorité".

"La protection des familles est notre priorité et nous avons créé l'application YouTube Kids pour offrir aux parents une alternative plus sûre pour leurs enfants", indique le communiqué. "Au-delà de cela, nous avons intensifié nos efforts pour limiter l'âge des vidéos signalées sur l'application principale qui sont mieux adaptées aux publics plus âgés et avons augmenté les ressources pour supprimer le contenu qui ne respecte pas nos politiques.

"Nous savons qu'il y a encore du travail à faire, nous avons donc fait appel à des experts tiers pour nous aider à évaluer ce paysage en évolution et nous lançons de nouveaux outils dans YouTube Kids pour que les parents puissent choisir une expérience personnalisée pour leur enfant", a déclaré la société.

YouTube a également déclaré à "GMA" qu'il avait depuis créé davantage de contrôles parentaux sur YouTube Kids afin que seules les vidéos projetées par des modérateurs humains puissent être utilisées.

Les parents doivent tourner les commandes sur eux-mêmes, et nous avons constaté qu'ils semblent fonctionner. En désactivant la recherche, les parents peuvent limiter les enfants aux vidéos qui ont été validées par l'équipe YouTube Kids.

Les parents peuvent également choisir des collections de chaînes recommandées par YouTube Kids et leurs partenaires. Une fonctionnalité dans laquelle les parents peuvent sélectionner des vidéos est censée être disponible plus tard cette année.

Les défenseurs des enfants disent que les parents peuvent également prendre des mesures par eux-mêmes, allant de la vérification ponctuelle de l'historique du navigateur de leur enfant à la co-visualisation de YouTube avec leur enfant et à la discussion avec son enfant de ce qu'il regarde en ligne.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd