Incidentes Asociados
Tumblr anunció hoy que prohibirá todo el contenido para adultos en la plataforma a partir del 17 de diciembre. Ahora, los usuarios veteranos critican los algoritmos de detección automática de la empresa, que parecen marcar incorrectamente algunas imágenes inofensivas como explícitas.
Tumblr está dando a los usuarios hasta la fecha de inicio de la prohibición a finales de este mes para apelar, pero las inexactitudes están causando preocupación de que las prohibiciones generales de dicho contenido podrían eliminar publicaciones inofensivas y continuar abriendo una brecha entre los creadores y la plataforma Tumblr. Los algoritmos originalmente formaban parte del Modo seguro, que ahora se está reemplazando con una prohibición de contenido para adultos en todo el sitio.
Se supone que la prohibición incluye todo el contenido sexual explícito y la desnudez, con algunas excepciones, como la lactancia materna y las estatuas clásicas desnudas. Tumblr explicó su decisión esta mañana en términos claros, escribiendo: “Ya no se permitirá contenido para adultos aquí. Si bien no juzgamos a nadie por su deseo de publicar, interactuar o ver estas cosas, es hora de que cambiemos nuestra relación con ellas”.
Técnicamente, cualquier ilustración que presente actos sexuales también está prohibida, mientras que las ilustraciones de desnudos están bien. Pero una letanía de ejemplos que gana fuerza en Twitter y otros foros destaca cómo el software subyacente es capaz de cometer errores graves.
Una persona vio un jarrón y fotos de medias marcadas como explícitas. Sin embargo, el usuario notó que las fotos de consoladores habían volado bajo el radar del algoritmo. La ilustración de otro artista de una bruja flotando entre algas también se marcó incorrectamente. Otro artista vio que sus ilustraciones de personas corriendo y nadando fueron marcadas.
Para ser justos, todos estos son errores que Tumblr parece haber previsto. Como dijo el CEO Jeff D'Onofrio en una publicación de blog: "Confiamos en herramientas automatizadas para identificar contenido para adultos y humanos para ayudar a entrenar y mantener nuestros sistemas bajo control". Sabemos que habrá errores”. La publicación del personal de Tumblr explicó además que "las computadoras son mejores que los humanos en el proceso de escalado, y las necesitamos para eso, pero no son tan buenas para tomar decisiones contextuales matizadas". La compañía dice que será "un proceso en evolución para todos nosotros, y estamos comprometidos a hacerlo bien".
Se puede apelar todo el contenido marcado por error, pero es solo un papeleo adicional para los muchos usuarios de Tumblr que no publican contenido explícito y, sin embargo, se encuentran en la mira por error. Por ahora, solo está creando una forma para que los fanáticos de Tumblr se desahoguen sobre una política con la que algunos no están contentos.