Incidents associés
L'IA de Facebook a du mal à faire la différence entre les images sexuelles du corps humain et les légumes globulaires.
Une jardinerie de Terre-Neuve, au Canada, a reçu lundi un avis de Facebook concernant une annonce qu'elle avait téléchargée pour des graines d'oignons Walla Walla contenant une photo de certains oignons.
L'avis de Facebook indique que l'annonce a enfreint ses règles sur les "produits avec un positionnement ouvertement sexuel", précisant : "les annonces ne peuvent pas positionner des produits ou des services de manière sexuellement suggestive".
Facebook a déclaré mercredi au Canada CBC News l'annonce avait été rétablie après examen. L'erreur a été commise par sa technologie de modération par IA, qui supprime automatiquement le contenu qu'elle pense contenir de la nudité, a-t-il déclaré.
"Nous utilisons une technologie automatisée pour empêcher la nudité de nos applications. Mais parfois, il ne reconnaît pas un oignon walla walla d'un, eh bien, vous savez. Nous avons restauré l'annonce et sommes désolés pour les problèmes de l'entreprise", Meg Sinclair, Facebook Canada. le chef des communications a déclaré à CBC.
Elle n'a pas précisé ce qu'elle voulait dire par un "tu sais".
Ce n'est pas la première fois que les systèmes automatisés de Facebook suppriment avec excès de zèle du contenu réintégré par la suite par des modérateurs humains. En 2018, ses systèmes ont supprimé un message contenant des extraits de la Déclaration d'indépendance après avoir signalé le message comme contenant un discours de haine.