Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 11

Incidents associés

Incident 113 Rapports
Google’s YouTube Kids App Presents Inappropriate Content

Loading...
YouTube pour enfants produit toujours du sang, du suicide et du cannibalisme
wired.co.uk · 2018

Vidéo fixe d'une version reproduite de Minnie Mouse, qui est apparue sur la chaîne Simple Fun maintenant suspendue Simple Fun / WIRED

Les vidéos YouTube utilisant des termes de recherche destinés aux enfants échappent aux tentatives de l'entreprise de les contrôler. Dans un dessin animé, une femme avec une tête de Minnie Mouse dégringole dans un escalator avant de se retrouver piégée dans ses machines, crachant du sang, tandis que ses enfants (les bébés personnages de Mickey et Minnie) pleurent.

Le dessin animé, Minnie Mouse Mommy Has Pregnancy Problem & Doctor Treats Episodes! Mickey Mouse, Donald Duck Cartoon, a accumulé plus de trois millions de vues en une seule journée. Il pouvait être visionné même si le mode restreint familial de YouTube était activé et existait, ainsi que de nombreux contenus tout aussi pénibles, sur Simple Fun, une chaîne qui fonctionnait depuis juillet 2017.

Publicité

La chaîne a maintenant été supprimée par YouTube "en raison de violations multiples ou graves de la politique de YouTube contre le spam, les pratiques trompeuses et le contenu trompeur ou d'autres violations des conditions d'utilisation".

WIRED a trouvé des vidéos contenant de la violence contre des personnages d'enfants, une sexualisation inappropriée à l'âge, des personnages de Paw Patrol tentant de se suicider et Peppa Pig trompé en mangeant du bacon. Celles-ci ont été découvertes en suivant les recommandations de la barre latérale de YouTube ou en autorisant simplement la lecture automatique des vidéos pour enfants, en commençant par le contenu légitime.

Lire la suite Dans l'esprit prophétique et en colère de Charlie Brooker de Black Mirror Dans l'esprit prophétique et en colère de Charlie Brooker de Black Mirror

"Les recommandations sont conçues pour optimiser le temps de visionnage, il n'y a aucune raison pour qu'elles montrent du contenu réellement bon pour les enfants. Cela peut arriver parfois, mais si c'est le cas, c'est une coïncidence", déclare l'ancien ingénieur YouTube Guillaume Chaslot, qui a fondé AlgoTransparency, un projet qui vise à mettre en évidence et à expliquer l'impact des algorithmes sur la détermination de ce que nous voyons en ligne. "En travaillant chez YouTube sur les recommandations, j'avais l'impression d'être le méchant de Pinocchio : montrer aux enfants un monde coloré et amusant, mais en les transformant en ânes pour maximiser les revenus."

Les vidéos trouvées par WIRED ont été signalées à YouTube et ont été supprimées ou restreintes par la société appartenant à Google avant la publication de cet article. La société a expliqué qu'elle redouble d'efforts pour contrôler le contenu qui enfreint ses termes et conditions.

Publicité

YouTube pour enfants bizarres

Si vous pouvez l'imaginer, il existe une version profondément étrange de Finger Family Munnik TV / WIRED

YouTube abrite des millions d'heures de divertissement pour enfants - une partie des 400 heures de vidéo téléchargées sur le service chaque minute - allant de CBeebies et Disney au succès incompréhensible de Little Baby Bum, une chaîne pour enfants native de YouTube basée au Royaume-Uni consacrée à la 3D chansons animées et comptines pour les enfants d'âge préscolaire dans de nombreuses langues.

Le contenu pour les enfants d'âge préscolaire, en particulier, peut être lucratif pour les chaînes financées par la publicité, car les jeunes enfants regarderont et fouilleront facilement toutes les vidéos suggérées par YouTube, tandis que les parents harcelés sont souvent incapables de superviser pleinement chaque minute de la consommation de médias de leur enfant.

Lire la suite L'étrange histoire de l'article 230, la loi obscure qui a créé notre Internet défectueux et brisé L'étrange histoire de l'article 230, la loi obscure qui a créé notre Internet défectueux et brisé

AlgoTransparency indexe régulièrement les vidéos des enfants les plus susceptibles d'être recommandées par YouTube. Ses listes montrent que les vidéos pour enfants les plus suggérées sur YouTube penchent de manière disproportionnée vers une combinaison de chansons natives de YouTube et de comptines conçues pour un public américain ; de longues compilations éditées ensemble de séries télévisées telles que Peppa Pig, et d'étranges mash-ups animés 2D et 3D à petit budget d'animaux, de personnages et d'échantillons de voix.

Publicité

Précédemment décrit dans le message de James Bridle Quelque chose ne va pas sur le média Internet comme "décidément désactivé", ce dernier type de contenu peut être vaguement et collectivement catégorisé comme "YouTube pour enfants étranges".

Les titres sont généralement une salade de mots conçue pour attirer les recherches des enfants et des parents, tandis que le contenu des vidéos s'appuie fortement sur des modèles animés génériques 2D ou 3D, généralement combinés de manière incongrue avec des personnages familiers de franchises à succès de Disney ou de super-héros. Le nombre d'entre eux sur la plate-forme est stupéfiant, et beaucoup ont des millions, voire des centaines de millions de vues.

La vidéo Disney Frozen Finger Family Collection Disney Frozen Finger Family Songs Nursery Rhymes a 43 millions de vues, tandis que LEARN COLOR BMX & MotorCycles JUMP! pour enfants avec super-héros Dessin animé pour enfants Comptines a 176m.

Aucune des deux vidéos ne contient de contenu plus pénible qu'une vidéo mal animée et la chanson extrêmement ennuyeuse de Finger Family, mais les deux sont de bons exemples de vidéos qui utilisent des franchises populaires et la promesse d'une éducation pour cibler les recherches que les parents et les enfants sont susceptibles d'effectuer.

Lire la suite Avec l'IA et l'ADN, Massive Attack hacke un nouveau genre de musique Avec l'IA et l'ADN, Massive Attack hacke un nouveau genre de musique

D'après ce que les initiés de YouTube ont dit sur la façon dont

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd