Incidents associés
Tumblr a annoncé plus tôt dans la journée qu'il interdirait tout contenu pour adultes sur la plateforme à partir du 17 décembre. Désormais, les utilisateurs de longue date critiquent les algorithmes de détection automatique de la société, qui semblent signaler à tort certaines images inoffensives comme étant explicites.
Tumblr donne aux utilisateurs jusqu'à la date de début de l'interdiction plus tard ce mois-ci pour faire appel, mais les inexactitudes font craindre que des interdictions générales sur ce contenu puissent balayer les publications inoffensives et continuer à creuser un fossé entre les créateurs et la plate-forme Tumblr. Les algorithmes faisaient à l'origine partie du mode sans échec, qui est maintenant remplacé par une interdiction complète du site sur le contenu pour adultes.
L'interdiction est censée inclure tous les contenus sexuels explicites et la nudité, à quelques exceptions près telles que l'allaitement et les statues classiques nues. Tumblr a expliqué sa décision ce matin en termes clairs, en écrivant : « Le contenu pour adultes ne sera plus autorisé ici. Bien que nous ne jugeons personne pour son désir de publier, d'interagir avec ou de voir ce contenu, il est temps pour nous de changer notre relation avec lui.
Techniquement, toutes les illustrations qui présentent des actes sexuels sont également interdites, tandis que les illustrations nues sont acceptables. Mais une litanie d'exemples qui gagnent en popularité sur Twitter et d'autres forums met en évidence à quel point le logiciel sous-jacent est capable de commettre de graves erreurs.
Une personne a vu un vase et des photos de collants être signalés comme explicites. L'utilisateur a cependant noté que des photos de godes avaient volé sous le radar de l'algorithme. L'illustration d'un autre artiste d'une sorcière flottant parmi le varech a également été mal signalée. Pourtant, un autre artiste a vu ses illustrations de personnes courir et nager se faire signaler.
Pour être juste, ce sont toutes des erreurs que Tumblr semble avoir prévues. Comme l'a déclaré le PDG Jeff D'Onofrio dans un article de blog, "Nous nous appuyons sur des outils automatisés pour identifier le contenu pour adultes et les humains pour nous aider à former et à contrôler nos systèmes. Nous savons qu'il y aura des erreurs. Le message du personnel de Tumblr a en outre expliqué que "les ordinateurs sont meilleurs que les humains dans le processus de mise à l'échelle - et nous en avons besoin pour cela - mais ils ne sont pas aussi bons pour prendre des décisions nuancées et contextuelles". La société affirme que ce sera "un processus évolutif pour nous tous, et nous nous engageons à bien faire les choses".
Tout le contenu signalé par erreur peut faire l'objet d'un appel, mais il ne s'agit que de documents supplémentaires pour les nombreux utilisateurs de Tumblr qui ne publient pas de contenu explicite et se retrouvent néanmoins ciblés à tort. Pour l'instant, il s'agit simplement de créer un moyen pour les fans de Tumblr de se défouler sur une politique dont certains ne sont pas satisfaits.