Registro de citas para el Incidente 1
Entidades
Ver todas las entidadesEstadísticas de incidentes
Clasificaciones de la Taxonomía CSETv0
Detalles de la TaxonomíaFull Description
The content filtering system for YouTube's children's entertainment app, which incorporated algorithmic filters and human reviewers, failed to screen out inappropriate material, exposing an unknown number of children to videos that included sex, drugs, violence, profanity, and conspiracy theories. Many of the videos, which apparently numbered in the thousands, closely resembled popular children's cartoons such as Peppa Pig, but included disturbing or age-inappropriate content. Additional filters provided by YouTube, such as a "restricted mode" filter, failed to block all of these videos, and YouTube's recommendation algorithm recommended them to child viewers, increasing the harm. The problem was reported as early as 2015 and was ongoing through 2018.
Short Description
YouTube’s content filtering and recommendation algorithms exposed children to disturbing and inappropriate videos.
Severity
Moderate
Harm Distribution Basis
Age
Harm Type
Psychological harm
AI System Description
"A content filtering system incorporating machine learning algorithms and human reviewers. The system was meant to screen out videos that were unsuitable for children to view or that violated YouTube's terms of service. These videos were initially collected either algorithmically or on the basis of user reports. A recommendation system that suggested videos to viewers based on their viewing history on the platform."
System Developer
YouTube
Sector of Deployment
Arts, entertainment and recreation
Relevant AI functions
Perception, Cognition, Action
AI Techniques
machine learning
AI Applications
content filtering, decision support, curation, recommendation engine
Location
Global
Named Entities
Google, YouTube, YouTube Kids
Technology Purveyor
Google, YouTube
Beginning Date
2015-01-01T00:00:00.000Z
Ending Date
2018-12-31T00:00:00.000Z
Near Miss
Unclear/unknown
Intent
Accident
Lives Lost
No
Data Inputs
Videos
Clasificaciones de la Taxonomía GMF
Detalles de la TaxonomíaKnown AI Goal
Content Recommendation, Content Search, Hate Speech Detection, NSFW Content Detection
Known AI Technology
Content-based Filtering, Collaborative Filtering
Potential AI Technology
Classification, Ensemble Aggregation, Distributional Learning
Known AI Technical Failure
Tuning Issues, Lack of Adversarial Robustness, Adversarial Data
Potential AI Technical Failure
Concept Drift, Generalization Failure, Misconfigured Aggregation, Distributional Bias, Misaligned Objective
Clasificaciones de la Taxonomía CSETv1
Detalles de la TaxonomíaHarm Distribution Basis
none
Sector of Deployment
Arts, entertainment and recreation, information and communication
Informes del Incidente
Cronología de Informes
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Los grupos de defensa de los niños y los consumidores se quejaron ante la Comisión Federal de Comercio el martes de que la nueva aplicación YouTube Kids de Google contiene "contenido inapropiado", que incluye lenguaje sexual explícito y chi…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Videos llenos de blasfemias, material sexualmente explícito, alcohol, tabaco y referencias a drogas: esto es lo que los padres encuentran en la aplicación YouTube Kids de Google. Así es, es una aplicación para niños. Ahora, los padres de to…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Actualización, 7 de noviembre de 2017: HOY, Parents vuelve a compartir esta historia de 2016 porque una nueva serie de videos inapropiados han surgido en YouTube Kids y están en los titulares. Si bien los nombres de los canales y los person…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
La reproducción multimedia no es compatible con su dispositivo
Miles de videos en YouTube parecen versiones de dibujos animados populares, pero contienen contenido perturbador e inapropiado que no es apto para niños.
Si no estás prestando m…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Un video de la Patrulla Canina fuera de marca llamado "Los bebés fingen morir suicidados" presenta varios escenarios inquietantes. Youtube
Los padres que dejan que sus hijos vean YouTube sin supervisión deberían prestar más atención a lo qu…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Las noticias recientes y las publicaciones de blog destacaron la parte más vulnerable de YouTube Kids, la versión de Google para niños del amplio mundo de YouTube. Si bien todo el contenido de YouTube Kids está destinado a ser adecuado para…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
A principios de esta semana, un informe en The New York Times y una publicación de blog en Medium llamaron mucho la atención sobre un mundo de videos extraños y, a veces, perturbadores en YouTube dirigidos a niños pequeños. El género, del q…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
En las últimas semanas, el mundo se enteró a través de una serie de informes que YouTube está plagado de problemas con el contenido infantil. La compañía ha aumentado la moderación en las últimas semanas para combatir la ola de contenido in…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
YouTube, propiedad de Google, se disculpó nuevamente después de que aparecieran más videos inquietantes en su aplicación YouTube Kids.
Los investigadores encontraron varios videos inadecuados, incluido uno de un avión en llamas de la carica…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Los niños pudieron ver los videos de la conspiración de David Icke a través de YouTube Kids. Flickr/Tyler Merbler
La aplicación de YouTube específicamente para niños está destinada a filtrar el contenido para adultos y brindar un "mundo de …
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Fotograma de video de una versión reproducida de Minnie Mouse, que apareció en el canal Simple Fun ahora suspendido Simple Fun / WIRED
Los videos de YouTube que utilizan términos de búsqueda orientados a los niños están evadiendo los intent…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
YouTube Kids, que ha sido criticado por recomendar inadvertidamente videos perturbadores a los niños, dijo el miércoles que introduciría varias formas para que los padres limiten lo que se puede ver en la popular aplicación.
A partir de est…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Después de varios informes de contenido inapropiado en YouTube durante el año pasado, "Good Morning America" quiso echar un vistazo más de cerca al sitio. ¿Con qué frecuencia los niños terminan viendo contenido inapropiado en la plataforma …
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
YouTube es una industria masiva y un elemento básico de navegación que la gente usa para satisfacer sus necesidades educativas y de entretenimiento. Según Business Insider, el sitio web acumula alrededor de 1.800 millones de usuarios regist…
Variantes
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents
Whoops, Alexa Plays Porn Instead of a Kids Song!
Amazon Censors Gay Books
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents
Whoops, Alexa Plays Porn Instead of a Kids Song!