Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 1746

Incidentes Asociados

Incidente 2292 Reportes
Content Using Bestiality Thumbnails Allegedly Evaded YouTube’s Thumbnail Monitoring System

Loading...
YouTube alojó imágenes gráficas de bestialidad durante meses
buzzfeednews.com · 2018

Hay bestialidad en YouTube, y es sorprendentemente fácil de encontrar. También es sorprendentemente frecuente, pero no en los videos, sino en las miniaturas de los videos, algunas de las cuales han acumulado millones de visitas.

Busque en YouTube "la niña y su caballo" y la plataforma arrojará más de 12 millones de resultados. Entre los primeros 20 resultados hay cuatro videos promocionados con miniaturas de mujeres aparentemente involucradas en actos sexuales con caballos. ¿La búsqueda principal devuelve la consulta? Un video titulado "Fantastic Girl and Her Horse in My Village" promocionado con una miniatura medio borrosa de una mujer montada por un caballo con una erección. Creado por una cuenta llamada "SC Today", el video ha acumulado casi 35,000 visitas en las cuatro semanas que ha estado en YouTube.

El video "Fantastic Girl and Her Horse in My Village" en sí no presenta ninguna bestialidad. Es en gran parte imágenes de una mujer bañándose y cepillando a un caballo. Pero al hacer clic en él, se activa el motor de recomendaciones de YouTube, que rápidamente muestra docenas de videos de animales más, muchos con miniaturas que muestran bestialidad gráfica. Uno de esos videos en miniatura, publicado por un canal llamado "TODOS LOS ANIMALES", había acumulado 2,3 millones de visitas en el momento de escribir este artículo.

La mayoría de estos videos de bestialidad, que parecen originarse en países del sur de Asia como Camboya, muestran a mujeres en vestidos de verano jugando o cuidando animales como caballos y perros; algunos presentan ángulos de faldas y tomas de entrepierna de mujeres mientras bañan o cepillan caballos y perros. Y hay muchos. Sin necesidad de buscar, el algoritmo de recomendación de YouTube dirigió a BuzzFeed News a docenas de cuentas, cada una con múltiples videos con miniaturas de bestialidad explícita.

Un empleado sénior de YouTube encargado de desarrollar la oficina de inteligencia de la empresa (una nueva unidad que busca identificar tendencias de contenido controvertidas y que infrinjan las reglas en la plataforma) le dijo a BuzzFeed News que estos videos gráficos en miniatura parecen similares a los realizados por una granja de contenido camboyana. que se eliminó de la plataforma en el otoño de 2017. El empleado señaló que en su iteración anterior, la granja de contenido usó miniaturas provocativas (aunque ninguna con bestialidad) para promover videos excitantes de mujeres acariciando serpientes.

El empleado le dijo a BuzzFeed News que las cuentas camboyanas probablemente estaban tratando de aumentar su conteo de vistas con la esperanza de monetizarlas más tarde (la gran mayoría de las cuentas descubiertas por BuzzFeed News no habían sido monetizadas en el momento en que fueron canceladas). El empleado explicó que la tecnología de monitoreo de miniaturas de YouTube, que, en la actualidad, no es tan exhaustiva como su tecnología de monitoreo de videos, no detectó miniaturas de bestialidad, ya que no necesariamente tienen las mismas características que la pornografía típica (a menudo, las de los videos son en su mayoría vestidos y los videos carecen de ciertos significantes como la piel). El uso de imágenes de bestialidad destaca cómo están evolucionando las tácticas de granja de contenido de Camboya, agregó el empleado.

"Estas imágenes son abominables para nosotros y no tienen cabida en YouTube", dijo un portavoz de la empresa a BuzzFeed News. "Tenemos políticas estrictas contra las miniaturas engañosas, y se eliminó el contenido infractor que BuzzFeed nos señaló. Estamos trabajando rápidamente para hacer más que nunca para abordar el abuso en nuestra plataforma, y eso incluye desarrollar mejores herramientas para detectar metadatos inapropiados y engañosos. y miniaturas para que podamos tomar medidas rápidas contra ellos".

Los videos manoseados de bestialidad descubiertos por BuzzFeed News son en gran parte variaciones de "Una niña y un caballo" o "Una niña encantadora e inteligente jugando a los lindos perritos con arroz" y, a menudo, usan fotos similares o idénticas. Algunos parecen realistas; otros obviamente están retocados con Photoshop. Todos ellos parecen señalar el camino a los vídeos pornográficos.

Otros parecen mezclar videos perturbadores para niños con el contenido gráfico en miniatura.

Algunos de estos videos de bestialidad han obtenido millones de visitas en los meses que han estado en YouTube. No parece que se hayan monetizado, lo que puede ser parte de la razón por la que YouTube no los detectó. Dicho esto, fueron informados a YouTube a través de su cuenta de Twitter @TeamYouTube el jueves 19 de abril. La cuenta respondió el mismo día, diciendo que habían "compartido esto con las personas adecuadas". En la mañana del 23 de abril, muchos videos con las mismas miniaturas se podían buscar fácilmente.

Las miniaturas de bestialidad son las últimas de una serie de pasos en falso de YouTube, que ha tenido dificultades continuas para vigilar su plataforma en busca de contenido que viole sus reglas. En noviembre de 2017, YouTube enfrentó críticas luego de informes de videos animados inquietantes y contenido extraño dirigido a niños. Semanas más tarde, la compañía anunció que tomaría medidas enérgicas contra los videos centrados en niños después de que BuzzFeed News informara sobre docenas de videos, con millones de visitas, que mostraban a niños en situaciones perturbadoras y abusivas (muchos de esos videos se monetizaron, lo que hizo que algunos de sus creadores cientos de miles de dólares al mes). En 2018, YouTube fue criticado por dirigir sin saberlo a los usuarios que buscaban noticias a videos de conspiraciones.

Poco después de que BuzzFeed News se pusiera en contacto con ellos el lunes por la tarde, YouTube comenzó a eliminar los videos de bestialidad en su plataforma y a cancelar las cuentas que los publicaban. Unas horas más tarde, la empresa anunció con orgullo el éxito de sus últimos esfuerzos de control de contenido y le dijo al New York Times que el 80 % de los 8,28 millones de videos que la empresa eliminó durante el cuarto trimestre de 2017 fueron marcados por máquinas.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd