Entités
Voir toutes les entitésClassifications de taxonomie CSETv1
Détails de la taxonomieIncident Number
1
Special Interest Intangible Harm
yes
Date of Incident Year
2016
Estimated Date
Yes
Multiple AI Interaction
no
Embedded
no
Classifications de taxonomie CSETv0
Détails de la taxonomieProblem Nature
Unknown/unclear
Physical System
Software only
Nature of End User
Amateur
Public Sector Deployment
No
Data Inputs
Videos
Lives Lost
No
Classifications de taxonomie GMF
Détails de la taxonomieKnown AI Goal Snippets
(Snippet Text: An off-brand Paw Patrol video called "Babies Pretend to Die Suicide" features several disturbing scenarios. The YouTube Kids app filters out most - but not all - of the disturbing videos.
Before any video appears in the YouTube Kids app, it's filtered by algorithms that are supposed to identify appropriate children's content YouTube also has a team of human moderators that review any videos flagged in the main YouTube app by volunteer Contributors (users who flag inappropriate content) or by systems that identify recognizable children's characters in the questionable video. Many of those views came from YouTube's "up next" and "recommended" video section that appears while watching any video. YouTube's algorithms attempt to find videos that you may want to watch based on the video you chose to watch first If you don't pick another video to watch after the current video ends, the "up next" video will automatically play. , Related Classifications: Content Recommendation, Content Search)
Risk Subdomain
1.2. Exposure to toxic content
Risk Domain
- Discrimination and Toxicity
Entity
AI
Timing
Post-deployment
Intent
Unintentional
Rapports d'incidents
Chronologie du rapport
Des groupes de défense des enfants et des consommateurs se sont plaints mardi auprès de la Federal Trade Commission que la nouvelle application YouTube Kids de Google contient du "contenu inapproprié", y compris un langage sexuel explicite …
Des vidéos remplies de blasphèmes, de matériel sexuellement explicite, de références à l'alcool, au tabagisme et à la drogue - c'est ce que les parents trouvent sur l'application YouTube Kids de Google. C'est vrai - son application pour enf…
Mise à jour, 7 novembre 2017 : AUJOURD'HUI, les parents partagent cette histoire de 2016, car une nouvelle série de vidéos inappropriées est apparue sur YouTube Kids et fait la une des journaux. Bien que les noms de chaînes et les personnag…
La lecture multimédia n'est pas prise en charge sur votre appareil
Des milliers de vidéos sur YouTube ressemblent à des versions de dessins animés populaires, mais contiennent un contenu dérangeant et inapproprié qui ne convient pas aux enf…
Une vidéo hors marque de Paw Patrol intitulée "Babies Pretend to Die Suicide" présente plusieurs scénarios inquiétants. Youtube
Les parents qui laissent leurs enfants regarder YouTube sans surveillance voudront peut-être faire plus attentio…
Plus tôt cette semaine, un reportage dans le New York Times et un article de blog sur Medium ont attiré l'attention sur un monde de vidéos étranges et parfois dérangeantes sur YouTube destinées aux jeunes enfants. Le genre, dont nous avons …
Des articles de presse et des articles de blog récents ont mis en évidence les dessous de YouTube Kids, la version adaptée aux enfants de Google du vaste monde de YouTube. Bien que tout le contenu de YouTube Kids soit destiné aux enfants de…
Au cours des dernières semaines, le monde a appris à travers un certain nombre de rapports que YouTube est en proie à des problèmes avec le contenu pour enfants. La société a intensifié la modération ces dernières semaines pour lutter contr…
YouTube, propriété de Google, a de nouveau présenté ses excuses après la diffusion de vidéos plus dérangeantes sur son application YouTube Kids.
Les enquêteurs ont trouvé plusieurs vidéos inadaptées, dont celle d'un avion en feu du dessin a…
Les enfants ont pu regarder les vidéos complotistes de David Icke via YouTube Kids. Flickr/Tyler Merbler
L'application de YouTube spécifiquement pour les enfants est destinée à filtrer le contenu pour adultes et à fournir un "monde d'appren…
Vidéo fixe d'une version reproduite de Minnie Mouse, qui est apparue sur la chaîne Simple Fun maintenant suspendue Simple Fun / WIRED
Les vidéos YouTube utilisant des termes de recherche destinés aux enfants échappent aux tentatives de l'en…
YouTube Kids, qui a été critiqué pour avoir recommandé par inadvertance des vidéos dérangeantes aux enfants, a déclaré mercredi qu'il introduirait plusieurs façons pour les parents de limiter ce qui peut être regardé sur l'application popul…
Après plusieurs signalements de contenu inapproprié sur YouTube au cours de l'année écoulée, "Good Morning America" a voulu examiner de plus près le site. À quelle fréquence les enfants finissent-ils par voir du contenu inapproprié sur la p…
YouTube est à la fois une industrie massive et un incontournable de la navigation que les gens utilisent pour répondre à leurs besoins éducatifs et de divertissement. Selon Business Insider, le site Web accumule environ 1,8 milliard d'utili…
Variantes
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Whoops, Alexa Plays Porn Instead of a Kids Song!
Amazon Censors Gay Books
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Whoops, Alexa Plays Porn Instead of a Kids Song!