Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 9

Incidents associés

Incident 113 Rapports
Google’s YouTube Kids App Presents Inappropriate Content

Loading...
YouTube a suggéré des vidéos complotistes aux enfants à l'aide de son application Kids
businessinsider.com · 2018

Les enfants ont pu regarder les vidéos complotistes de David Icke via YouTube Kids. Flickr/Tyler Merbler

L'application de YouTube spécifiquement pour les enfants est destinée à filtrer le contenu pour adultes et à fournir un "monde d'apprentissage et de plaisir", mais Business Insider a découvert que YouTube Kids présentait de nombreuses vidéos de théorie du complot qui prétendent que le monde est plat, que l'alunissage a été truqué , et que la planète est gouvernée par des hybrides reptiles-humains.

YouTube Kids est une application distincte de l'application YouTube principale, et elle est destinée à permettre aux parents de laisser leurs enfants naviguer sur YouTube sans se soucier de l'apparition de contenu inapproprié. Les enfants sont encouragés à apprendre des langues, à lire des livres et à regarder des vidéos éducatives.

Recherchez "OVNI" sur YouTube Kids et vous trouverez principalement des vidéos de jouets qui conviennent clairement aux enfants. Mais l'une des meilleures vidéos prétendait montrer un OVNI tirant sur un chemtrail, et nous avons trouvé plusieurs vidéos de l'éminent théoricien du complot David Icke dans les vidéos suggérées. YouTube a supprimé les vidéos de YouTube Kids après que nous l'avons contacté à propos du problème.

Une vidéo suggérée était une conférence d'une heure par Icke dans laquelle il prétend que les extraterrestres ont construit les pyramides, que la planète est dirigée par des hybrides reptiles-humains, que les francs-maçons se livrent à des sacrifices humains, que l'assassinat du président Kennedy a été planifié par les États-Unis. gouvernement, et que les humains évolueraient en 2012.

Deux autres vidéos sur la théorie du complot d'Icke sont apparues dans les vidéos associées, ce qui signifie qu'il était facile pour les enfants de passer rapidement du visionnage de vidéos relativement innocentes sur des jouets à du contenu complotiste.

Une des vidéos qui a été suggérée sur YouTube Kids. YouTube/OVNI

YouTube a déclaré dans une déclaration à Business Insider que "parfois, nous manquons la cible" sur le contenu apparaissant sur YouTube Kids et a déclaré qu'il "continuerait à travailler pour améliorer l'expérience de l'application YouTube Kids".

Voici la déclaration complète de YouTube :

"L'application YouTube Kids héberge une grande variété de contenus, notamment des vidéos enrichissantes et divertissantes pour les familles. Ce contenu est filtré à l'aide de systèmes formés par l'homme. Cela étant dit, aucun système n'est parfait et parfois nous manquons la cible. Lorsque nous le faisons, nous prenons des mesures immédiates pour empêcher les vidéos ou, si nécessaire, les chaînes d'apparaître dans l'application. Nous continuerons à travailler pour améliorer l'expérience de l'application YouTube Kids."

YouTube Kids est destiné à bloquer les contenus inappropriés

L'application YouTube Kids bloque les recherches des vidéos les plus inappropriées. Recherchez "9/11" ou "porno" et vous ne trouverez aucun résultat. Mais nous avons découvert qu'enfouies dans les vidéos suggérées par l'application, il y avait des vidéos de complot sur lesquelles les enfants pouvaient tomber.

YouTube pour les enfants

Les vidéos sur la théorie du complot apparaissent dans les résultats de recherche

Si vous avez recherché "atterrissage sur la lune" sur YouTube Kids, trois vidéos sont apparues qui prétendent que l'alunissage était un canular. Les trois vidéos ont depuis été masquées par YouTube après que nous l'avons informé du problème.

YouTube pour les enfants

Suite à des vidéos similaires qui apparaissent dans YouTube Kids, nous avons fini par regarder une vidéo qui prétend qu'une passerelle vers un nouveau monde s'est ouverte et qu'une employée travaillant sur le Large Hadron Collider a mystérieusement disparu dans un portail magique.

Grâce à la fonctionnalité de suggestions de vidéos de YouTube Kids, nous avons également trouvé des vidéos des théoriciens du complot Ben Davidson, Gerald Pollack et Wallace Thornhill. YouTube a supprimé les vidéos spécifiques que nous lui avions envoyées, mais de nombreuses autres vidéos des théoriciens du complot restent dans l'application.

YouTube pour les enfants

Les vidéos complotistes apparaissent également lorsque les enfants recherchent des théories complotistes populaires. Les recherches de "chemtrails", "terre plate" et "nibiru" sont toutes autorisées dans l'application. Cependant, il est (espérons-le) peu probable que les enfants regardent régulièrement ces vidéos à moins qu'elles n'apparaissent comme des suggestions de contenu plus populaire dans l'application.

Les vidéos de complot n'apparaissent pas seulement dans les recherches ou les vidéos suggérées. Après avoir regardé plusieurs vidéos de complot, la vidéo la plus recommandée sur la page d'accueil de YouTube Kids était une théorie du complot sur les extraterrestres sur la lune :

YouTube pour les enfants

Ce problème avec l'application YouTube Kids montre le problème avec l'algorithme de vidéos suggérées de YouTube. Les vidéos suggérées essaient de vous convaincre de regarder du contenu connexe après la fin de votre vidéo actuelle.

C'est bien quand ce sont des adultes qui regardent le site YouTube principal, mais les enfants sur YouTube Kids peuvent facilement passer d'un contenu innocent sur l'alunissage à Icke affirmant que les lézards dominent le monde.

YouTube Kids critiqué pour avoir diffusé des vidéos inappropriées

Ce n'est pas la première fois que YouTube Kids présente des vidéos qui ne conviennent pas aux enfants. En 2017, l'application a été critiquée dans un long article sur Medium par l'auteur James Bridle après avoir trouvé des vidéos dérangeantes destinées aux enfants.

"Quelqu'un ou quelque chose ou une combinaison de personnes et de choses utilise YouTube pour systématiquement effrayer, traumatiser et abuser des enfants, automatiquement et à grande échelle", a écrit Bridle.

En novembre, YouTube a publié un article de blog dans lequel il promettait de supprimer les vidéos "inacceptables" de YouTube Kids.

YouTube se bat contre les fake new

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd