Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 2

Incidents associés

Incident 114 Rapports
Google’s YouTube Kids App Presents Inappropriate Content

L'application YouTube Kids affiche TOUJOURS des vidéos dérangeantes
dailymail.co.uk · 2018

YouTube, propriété de Google, a de nouveau présenté ses excuses après la diffusion de vidéos plus dérangeantes sur son application YouTube Kids.

Les enquêteurs ont trouvé plusieurs vidéos inadaptées, dont celle d'un avion en feu du dessin animé Paw Patrol et des images expliquant comment aiguiser un couteau.

YouTube a été critiqué pour avoir utilisé des algorithmes pour filtrer le matériel plutôt que d'utiliser des modérateurs humains pour juger ce qui pourrait être approprié.

Des centaines de vidéos troublantes ont été trouvées sur YouTube Kids ces derniers mois et sont facilement accessibles par les enfants.

Ces vidéos ont présenté des choses horribles qui arrivent à divers personnages, y compris ceux du film Disney Frozen, la franchise Minions, Doc McStuffins et Thomas the Tank Engine.

Les parents, les régulateurs, les annonceurs et les forces de l'ordre sont de plus en plus préoccupés par la nature ouverte du service.

Faites défiler vers le bas pour la vidéo

YouTube s'est de nouveau excusé après que des vidéos plus dérangeantes aient fait surface sur son application YouTube Kids. Les enquêteurs ont trouvé plusieurs vidéos inadaptées dont une du dessin animé Paw Patrol sur un avion en feu et des images montrant comment aiguiser un couteau

Un porte-parole de YouTube a admis que l'entreprise devait "faire plus" pour lutter contre les vidéos inappropriées sur sa plate-forme pour enfants.

Cette enquête est la dernière à révéler des contenus inappropriés sur le site de partage de vidéos qui fait l'objet de nombreuses polémiques depuis sa création en 2005.

Dans le cadre d'une enquête approfondie menée par BBC Newsround, la responsable des politiques publiques de Google, Katie O'Donovan, a rencontré cinq enfants qui lui ont parlé des vidéos angoissantes qu'ils avaient vues sur le site.

Ils comprenaient des vidéos montrant des clowns couverts de sang et des messages les avertissant qu'il y avait quelqu'un à la porte.

Mme O'Donovan a déclaré qu'elle était "très, vraiment désolée pour toute blessure ou inconfort".

"Nous avons en fait construit une toute nouvelle plate-forme pour les enfants, appelée YouTube Kids, où nous prenons le meilleur contenu, les choses qui intéressent le plus les enfants et les mettons là-bas dans un endroit emballé juste pour les enfants", a-t-elle déclaré.

Il faut normalement cinq jours pour que du contenu censé être adapté aux enfants, comme des dessins animés, passe de YouTube à YouTube Kids.

Dans cette fenêtre, on espère que les utilisateurs et une équipe spécialement formée signaleront le contenu dérangeant.

Une fois qu'il a été signalé et examiné, il n'apparaîtra plus dans l'application YouTube Kids et seules les personnes connectées et âgées de plus de 18 ans pourront le voir.

La société affirme que des milliers de personnes travailleront 24 heures sur 24 pour signaler le contenu.

Cependant, dans le cadre de l'enquête, Newsround a révélé qu'il y avait encore beaucoup de vidéos inappropriées dans la section Kids.

"Nous avons constaté des investissements importants dans la création des bons outils afin que les gens puissent signaler ce [contenu], et ces signaux sont examinés très, très rapidement", a déclaré Mme O'Donovan.

"Nous commençons également à utiliser l'apprentissage automatique pour identifier le contenu le plus préjudiciable, qui est ensuite automatiquement examiné."

Le problème était de gérer une plate-forme ouverte où le contenu est téléchargé directement sur le site, a-t-elle ajouté.

"C'est un environnement difficile parce que les choses évoluent tellement, tellement vite", a déclaré Mme O'Donovan.

"Nous avons la responsabilité de nous assurer que la plate-forme peut survivre et prospérer afin que nous ayons une collection qui vient du monde entier".

À la fin de l'année dernière, YouTube a déclaré avoir supprimé plus de 50 chaînes d'utilisateurs et cessé de diffuser des publicités sur plus de 3,5 millions de vidéos depuis juin.

"Le contenu qui met en danger les enfants est inacceptable pour nous et nous avons des politiques claires contre de telles vidéos sur YouTube et YouTube Kids", a déclaré un porte-parole de YouTube à MailOnline.

"Lorsque nous découvrons un contenu inapproprié, nous prenons rapidement des mesures pour le supprimer de notre plateforme.

"Au cours des derniers mois, nous avons pris une série de mesures pour relever de nombreux défis émergents concernant le contenu familial sur YouTube, notamment : renforcer l'application de nos directives communautaires, limiter l'âge du contenu qui cible de manière inappropriée les familles et le supprimer de l'application YouTube Kids."

YouTube a été critiqué pour avoir utilisé des algorithmes pour filtrer le matériel plutôt que d'utiliser des modérateurs humains pour juger de ce qui pourrait être approprié (stock image)

En mars, un faux Peppa Pig troublant, trouvé par la journaliste Laura June, montre un dentiste avec une énorme seringue arrachant les dents du personnage alors qu'elle hurle de détresse.

Mme June n'a réalisé la nature violente de la vidéo que lorsque sa fille de trois ans l'a regardée à côté d'elle.

"Peppa crie et pleure beaucoup et le dentiste est juste un peu sadique et c'est juste très loin de ce qu'un enfant de trois ans devrait regarder", a-t-elle déclaré.

"Mais l'animation est assez proche pour ressembler à Peppa – c'est grossier mais c'est assez proche pour que ma fille se dise 'C'est Peppa Pig'."

Une autre vidéo montrait Peppa Pig et un ami incendiant délibérément une maison avec quelqu'un dedans.

Toutes ces vidéos sont facilement accessibles aux enfants via les résultats de recherche de YouTube ou les vidéos recommandées.

En mars, un faux Peppa Pig troublant, trouvé par la journaliste Laura June, montre un dentiste avec une énorme seringue tirant ou

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 300d90c