Incidents associés
Résumé : On craint de plus en plus que les plateformes de commerce électronique amplifient la désinformation sur les vaccins. Pour enquêter, nous menons deux séries d'audits algorithmiques pour la désinformation sur les vaccins sur les algorithmes de recherche et de recommandation d'Amazon, le premier détaillant en ligne au monde. Tout d'abord, nous auditons systématiquement les résultats de recherche appartenant aux requêtes de recherche liées aux vaccins sans se connecter à la plateforme - des audits non personnalisés. Nous constatons que 10,47 % des résultats de recherche font la promotion de produits de santé désinformants. Nous observons également un biais de classement, Amazon classant les résultats de recherche désinformants plus haut que les résultats de recherche démystifiants. Ensuite, nous analysons les effets de la personnalisation due à l'historique du compte, où l'historique est construit progressivement en effectuant diverses actions réelles de l'utilisateur, comme cliquer sur un produit. Nous trouvons des preuves de l'effet filtre-bulle dans les recommandations d'Amazon ; les comptes effectuant des actions sur des produits désinformants sont présentés avec plus de désinformation par rapport aux comptes effectuant des actions sur des produits neutres et démystifiants. Fait intéressant, une fois que l'utilisateur clique sur un produit mal informatif, les recommandations de la page d'accueil deviennent plus contaminées que lorsque l'utilisateur montre son intention d'acheter ce produit.
Introduction : L'apparition récente de la pandémie de coronavirus a déclenché un déluge de désinformation sur la santé en ligne [4, 22] et un regain d'intérêt pour le mouvement anti-vaccin, les comptes de médias sociaux anti-vax ayant enregistré une augmentation de 19 % de leur base d'abonnés [49] . Alors que les scientifiques travaillent à la création d'un vaccin contre la maladie, les experts de la santé craignent que la réticence à la vaccination ne rende difficile l'obtention d'une immunité collective contre le nouveau virus [3]. La lutte contre la désinformation sur la santé, en particulier la désinformation anti-vaccin, n'a jamais été aussi importante.
Les statistiques montrent que les gens comptent de plus en plus sur Internet [53], et plus particulièrement sur les moteurs de recherche en ligne [8], pour obtenir des informations sur la santé, notamment des informations sur les traitements médicaux, les immunisations, les vaccinations et les effets secondaires liés aux vaccins [6, 23]. Pourtant, les algorithmes qui alimentent les moteurs de recherche ne sont traditionnellement pas conçus pour prendre en compte la crédibilité et la fiabilité de ces informations. Les plateformes de recherche étant la principale passerelle et apparemment la source la plus fiable [19], la désinformation persistante sur les vaccins à leur sujet peut avoir de graves conséquences pour la santé [38]. Ainsi, il y a eu un intérêt croissant pour l'étude empirique des résultats des moteurs de recherche pour la désinformation sur la santé. Alors que plusieurs études ont effectué des audits sur les moteurs de recherche commerciaux pour enquêter sur les comportements problématiques [35, 36, 56], les plateformes de commerce électronique ont reçu peu ou pas d'attention ([11, 59] sont deux exceptions), malgré les critiques appelant les plateformes de commerce électronique , comme Amazon, un magasin « dystopique » pour héberger des livres anti-vaccins [17]. Amazon a notamment été critiqué par plusieurs critiques technologiques pour ne pas réglementer les produits liés à la santé sur sa plate-forme [5, 55]. Prenons l'exemple le plus récent. Plusieurs produits médicalement non vérifiés pour le traitement des coronavirus, comme la guérison par la prière, les traitements à base de plantes et les suppléments de vitamines antivirales ont proliféré Amazon [18, 28], à tel point que la société a dû retirer 1 million de produits contrefaits après que plusieurs cas de tels traitements aient été rapportés par les médias [22]. L'ampleur du contenu problématique suggère qu'Amazon pourrait être un grand catalyseur de désinformation, en particulier de désinformation sur la santé. Il héberge non seulement du contenu problématique lié à la santé, mais ses algorithmes de recommandation stimulent l'engagement en poussant des produits de santé potentiellement douteux vers les utilisateurs du système [27, 59]. Ainsi, dans cet article, nous étudions Amazon, le premier détaillant en ligne mondial, pour la forme la plus critique de désinformation sur la santé, la désinformation sur les vaccins.
Quelle est la quantité d'informations erronées présentes dans les résultats de recherche et les recommandations d'Amazon ? Comment la personnalisation due à l'historique des utilisateurs construit progressivement en effectuant des actions utilisateur réelles, telles que cliquer ou parcourir certains produits, a-t-elle un impact sur la quantité d'informations erronées renvoyées dans les résultats de recherche et les recommandations ultérieurs ? Dans cet article, nous nous penchons sur ces questions. Nous menons 2 séries d'expériences d'audit systématique : Audit non personnalisé et Audit personnalisé. Dans l'audit non personnalisé, nous adoptons les mesures de récupération d'informations de travaux antérieurs [42] pour déterminer la quantité de désinformation sur la santé à laquelle les utilisateurs sont exposés lorsqu'ils recherchent des requêtes liées aux vaccins. En particulier, nous examinons les résultats de recherche de 48 requêtes de recherche appartenant à 10 sujets populaires liés aux vaccins tels que «vaccin contre le VPH», «immunisation», «vaccin ROR et autisme», etc. Nous collectons les résultats de recherche sans vous connecter à Amazon pour éliminer l'influence de personnalisation. Pour obtenir des informations approfondies sur l'algorithme de recherche et de tri de la plate-forme, nos audits non personnalisés se sont déroulés pendant 15 jours consécutifs, triant les résultats de la recherche sur 5 filtres Amazon différents chaque jour : "en vedette", "prix bas à élevé", "prix élevé à bas". , "avis client moyen" et "nouveaux arrivages". Le premier audit a abouti à 36 000 résultats de recherche et 16 815 recommandations de pages de produits que nous avons ensuite annotées pour leur position sur la désinformation sur la santé - promotion, neutralité ou démystification.
Dans notre deuxième série d'audits, l'audit personnalisé, nous déterminons l'impact de la personnalisation due à l'historique de l'utilisateur sur la quantité d'informations erronées sur la santé renvoyées dans les résultats de recherche, les recommandations et les suggestions de saisie semi-automatique. L'historique de l'utilisateur est construit progressivement sur 7 jours en effectuant plusieurs actions du monde réel, telles que "rechercher", "rechercher + cliquer", "rechercher + cliquer + ajouter au panier", "rechercher + cliquer + marquer les meilleurs tous les avis positifs comme utile », « suivre le contributeur » et « rechercher sur un site Web tiers » (Google.com dans notre cas). Nous collectons plusieurs composants Amazon dans notre audit personnalisé, comme les pages d'accueil, les pages de produits, les pages de préachat, les résultats de recherche, etc. Nos audits révèlent qu'Amazon héberge une pléthore de produits de désinformation sur la santé appartenant à plusieurs catégories, notamment les livres, les eBooks Kindle, Amazon Mode (par exemple, vêtements, t-shirt, etc.) et articles de santé et de soins personnels (par exemple, compléments alimentaires). Nous établissons également la présence d'un effet de filtre-bulle dans les recommandations d'Amazon, où les recommandations de produits de santé désinformants contiennent davantage de désinformation sur la santé.
Ci-dessous, nous présentons nos questions de recherche formelles, les principales conclusions, les contributions et l'implication de cette étude ainsi que les considérations éthiques prises pour effectuer des audits de plateforme.