Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 1466

Incidentes Asociados

Incidente 1321 Reporte
TikTok’s Content Moderation Allegedly Failed to Adequately Take down Videos Promoting Eating Disorders

Loading...
Los videos de anorexia de TikTok escriben mal los hashtags para vencer la prohibición 'Pro-Ana'
insider.com · 2020

TikTok dijo que prohibió seis cuentas que se le informaron por publicar contenido que promovía hábitos alimenticios que probablemente conduzcan a problemas de salud en su último esfuerzo para tomar medidas enérgicas contra el contenido dañino.

La aplicación está plagada de material peligroso que incluye contenido 'pro-ana' o pro-anorexia y 'pro-mia' o pro-bulimia que ha afectado a otras redes sociales como Tumblr en el pasado.

Su algoritmo significa que si los usuarios interactúan con contenido dañino, TikTok continuará mostrándolo, e incluso si no interactúan con él, puede aparecer en su página For You independientemente.

La aplicación tiene 800 millones de usuarios activos, el 41% de los cuales tienen entre 16 y 24 años, según Datereportal y Globalwebindex.

TikTok dijo que había prohibido seis cuentas por publicar contenido que promovía hábitos alimenticios que probablemente conduzcan a problemas de salud en su último esfuerzo para tomar medidas enérgicas contra el contenido dañino.

La prohibición, a principios de diciembre, se produjo después de que una investigación de The Guardian descubriera que todavía se podía buscar material a favor de la anorexia en la plataforma.

La aplicación ha tenido problemas con material peligroso que incluye contenido 'pro-ana' o pro-anorexia y 'pro-mia' o pro-bulimia que plagaron otras redes sociales como Tumblr en el pasado.

La plataforma prohibió el contenido etiquetado como #proana y #anorexia, que tuvo 2,1 millones y 446.000 visitas respectivamente en el verano, según Mashable UK. Los usuarios que los buscaron fueron redirigidos a una página de soporte titulada "¿Necesita ayuda?"

Sin embargo, si se ingresan como palabras en lugar de hashtags, el contenido permanece accesible y los usuarios también han podido eludir la prohibición utilizando errores ortográficos comunes de términos de búsqueda populares.

Tom Quinn, director de Asuntos Externos de la organización benéfica para trastornos alimentarios, Beat le dijo a Insider: "Es vital que TikTok continúe actualizando sus procedimientos de seguridad para reducir la capacidad de sus usuarios de publicar o encontrar contenido dañino. Esto debe incluir identificar dónde hay errores ortográficos. de hashtags comunes se utilizan para eludir las reglas".

Danae Mercer, periodista e influencer de la imagen corporal con sede en los Emiratos Árabes Unidos, comenzó a hablar sobre la confianza en la apariencia física por varias razones, incluida la lucha contra un trastorno alimentario cuando tenía 19 años.

Ella le dijo a Insider: "Las redes sociales, como las comunidades pro-ana en Tumblr y los sitios web, hablar sobre la pérdida de peso de las celebridades realmente intensificó mi enfermedad, así que estoy tratando de ayudar a que las redes sociales sean un espacio más seguro, del tipo que necesitaba cuando estaba enferma".

"Esas comunidades alimentan masivamente los trastornos alimentarios, ayudándolos a convertirse en un ciclo en el que se fomenta la enfermedad, se comparten consejos y se aplaude estar más enfermo".

Cómo funciona Tik Tok

TikTok tiene 800 millones de usuarios activos en todo el mundo, el 41 % de los cuales tiene entre 16 y 24 años, según Datereportal y Globalwebindex.

TikTok es único de otras redes debido a su algoritmo For You Page (FYP), cuyo funcionamiento interno reveló recientemente la aplicación de propiedad china en un esfuerzo por ser más transparente.

Cuando se carga un video, se muestra a un pequeño grupo de usuarios, independientemente de si siguen la cuenta de la que proviene o no.

Si interactúan con el video, ya sea dando me gusta, compartiendo o incluso viéndolo todo, entonces se presentará a un grupo aún más grande.

Si este grupo más grande reacciona bien, entonces se muestra a un grupo aún más grande y el proceso continúa hasta que el clip finalmente se vuelve viral.

Por lo tanto, si los usuarios interactúan con contenido dañino, TikTok continuará mostrándolo, atrapándolos en un círculo vicioso, e incluso si no interactúan con él, puede aparecer en su FYP de todos modos.

En un comunicado, TikTok dijo que los usuarios que busquen contenido relacionado con trastornos alimentarios serán redirigidos a la línea de ayuda de la Asociación Nacional de Trastornos Alimentarios (NEDA) y que prohibiría los anuncios que promocionan aplicaciones de ayuno y trucos para perder peso a menores de 18 años.

El año pasado, Pinterest también abordó este problema entrenando su algoritmo para que reconozca el contenido que promueve la autolesión y la compañía informó que esos pines se redujeron en un 88 %, informó Wired.

Cuando los usuarios buscan específicamente los Pines restantes, Pinterest recomienda a los usuarios una serie de ejercicios de bienestar.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd