Plus tôt cette semaine, un reportage dans le New York Times et un article de blog sur Medium ont attiré l'attention sur un monde de vidéos étranges et parfois dérangeantes sur YouTube destinées aux jeunes enfants. Le genre, dont nous avons rendu compte en février de cette année, utilise des personnages populaires de divertissement familial, mais il est souvent créé avec peu de soin et peut rapidement passer de thèmes innocents à des scènes de violence ou de sexualité.
En août de cette année, YouTube a annoncé qu'il n'autoriserait plus les créateurs à monétiser les vidéos qui "utilisaient de manière inappropriée des personnages familiaux". Aujourd'hui, il franchit une nouvelle étape pour essayer de contrôler ce genre.
"Nous sommes en train de mettre en œuvre une nouvelle politique qui limite l'âge de ce contenu dans l'application principale de YouTube lorsqu'il est signalé", a déclaré Juniper Downs, directeur de la politique de YouTube. "Le contenu soumis à une limite d'âge n'est automatiquement pas autorisé dans YouTube Kids." YouTube dit qu'il formule cette nouvelle politique depuis un certain temps et qu'il ne la déploie pas en réponse directe à la couverture récente.
La première ligne de défense de YouTube Kids sont les filtres algorithmiques. Après cela, il y a une équipe d'humains qui examine les vidéos qui ont été signalées. Si une vidéo avec des personnages d'enfants reconnaissables est signalée dans l'application principale de YouTube, qui est beaucoup plus grande que l'application Kids, elle sera envoyée à l'équipe de révision des règles. YouTube affirme que des milliers de personnes travaillent 24 heures sur 24 dans différents fuseaux horaires pour examiner le contenu signalé. Si l'examen révèle que la vidéo enfreint la nouvelle politique, elle sera soumise à une limite d'âge, ce qui l'empêchera automatiquement de s'afficher dans l'application Kids.
YouTube dit qu'il faut généralement au moins quelques jours pour que le contenu passe de YouTube proprement dit à YouTube Kids, et l'espoir est que dans cette fenêtre, les utilisateurs signaleront tout ce qui pourrait déranger les enfants. YouTube dispose également d'une équipe de modérateurs bénévoles, qu'elle appelle Contributeurs, à la recherche de contenu inapproprié. YouTube dit qu'il commencera à former son équipe de révision sur la nouvelle politique et qu'elle devrait être en ligne dans quelques semaines.
En plus de filtrer le contenu de l'application Kids, la nouvelle politique modifiera également qui peut voir ces vidéos sur le service principal de YouTube. Le contenu signalé sera soumis à une limite d'âge et les utilisateurs ne pourront pas voir ces vidéos s'ils ne sont pas connectés à des comptes enregistrés pour des utilisateurs de 18 ans ou plus. Tout contenu soumis à une limite d'âge est également automatiquement exempté de publicité. Cela signifie que cette nouvelle politique pourrait mettre un frein à l'activité en plein essor de la création de contenus pour enfants étranges.
YouTube essaie de faire la distinction entre reconnaître ce problème et affirmer que le problème est relativement mineur. Il indique que la fraction de vidéos sur YouTube Kids qui ont été manquées par ses filtres algorithmiques puis signalées par les utilisateurs au cours des 30 derniers jours ne représentait que 0,005 % des vidéos sur le service. La société affirme également que les rapports selon lesquels des vidéos inappropriées ont accumulé des millions de vues sur YouTube Kids sans être vérifiées sont faux, car ces vues provenaient d'une activité sur YouTube proprement dite, ce qui indique clairement dans ses conditions d'utilisation qu'il s'adresse aux utilisateurs de 13 ans et plus. .
Dans l'annonce de la politique d'aujourd'hui, YouTube reconnaît le problème et promet de mieux le contrôler. Il ne veut pas interdire purement et simplement l'utilisation de personnages adaptés aux familles par des créateurs qui ne sont pas les titulaires originaux des droits d'auteur sur l'ensemble de YouTube. Il y a un endroit, selon la société, pour la satire de Peppa Pig buvant de l'eau de Javel, aussi désagréable que vous puissiez la trouver. Mais YouTube reconnaît que YouTube Kids nécessite encore plus de modération. Et, la société est prête à renoncer à des revenus publicitaires supplémentaires – et il y a beaucoup d'argent qui coule dans ce segment de l'industrie – si c'est ce qu'il faut pour s'assurer que YouTube Kids se sent comme une expérience sûre pour les familles.