Incidentes Asociados
Resumen: Existe una creciente preocupación de que las plataformas de comercio electrónico estén amplificando la desinformación sobre vacunas. Para investigar, llevamos a cabo dos conjuntos de auditorías algorítmicas para detectar información errónea sobre vacunas en los algoritmos de búsqueda y recomendación de Amazon, el minorista electrónico líder en el mundo. Primero, auditamos sistemáticamente los resultados de búsqueda que pertenecen a consultas de búsqueda relacionadas con vacunas sin iniciar sesión en la plataforma: auditorías no personalizadas. Encontramos que el 10,47% de los resultados de búsqueda promocionan productos de salud desinformativos. También observamos un sesgo de clasificación, con Amazon clasificando los resultados de búsqueda desinformativos más altos que los resultados de búsqueda desacreditados. A continuación, analizamos los efectos de la personalización debido al historial de la cuenta, donde el historial se construye progresivamente mediante la realización de varias acciones del usuario en el mundo real, como hacer clic en un producto. Encontramos evidencia del efecto de burbuja de filtro en las recomendaciones de Amazon; las cuentas que realizan acciones en productos desinformativos se presentan con más información errónea en comparación con las cuentas que realizan acciones en productos neutrales y desacreditadores. Curiosamente, una vez que el usuario hace clic en un producto desinformativo, las recomendaciones de la página de inicio se contaminan más en comparación con cuando el usuario muestra la intención de comprar ese producto.
Introducción: El reciente inicio de la pandemia de coronavirus ha desatado un aluvión de información errónea sobre salud en línea [4, 22] y un enfoque renovado en el movimiento antivacunas, con cuentas de redes sociales antivacunas que han experimentado un aumento del 19 % en su base de seguidores [49] . Mientras los científicos trabajan para crear una vacuna para la enfermedad, a los expertos en salud les preocupa que la vacilación de la vacuna pueda dificultar el logro de la inmunidad colectiva contra el nuevo virus [3]. La lucha contra la información errónea sobre la salud, especialmente la información errónea contra las vacunas, nunca ha sido más importante.
Las estadísticas muestran que las personas confían cada vez más en Internet [53], y específicamente en los motores de búsqueda en línea [8], para obtener información sobre salud, incluida información sobre tratamientos médicos, inmunizaciones, vacunas y efectos secundarios relacionados con las vacunas [6, 23]. Sin embargo, los algoritmos que impulsan los motores de búsqueda no están diseñados tradicionalmente para tener en cuenta la credibilidad y confiabilidad de dicha información. Siendo las plataformas de búsqueda la puerta de entrada principal y, según se informa, la fuente más confiable [19], la desinformación persistente sobre vacunas en ellas puede causar graves ramificaciones para la salud [38]. Por lo tanto, ha habido un interés creciente en investigar empíricamente los resultados de los motores de búsqueda para obtener información errónea sobre la salud. Si bien múltiples estudios han realizado auditorías en motores de búsqueda comerciales para investigar comportamientos problemáticos [35, 36, 56], las plataformas de comercio electrónico han recibido poca o ninguna atención ([11, 59] son dos excepciones), a pesar de que los críticos llaman a las plataformas de comercio electrónico , como Amazon, una tienda “distópica” para alojar libros antivacunas [17]. Amazon específicamente ha enfrentado críticas de varios críticos de tecnología por no regular los productos relacionados con la salud en su plataforma [5, 55]. Considere la instancia más reciente. Varios productos médicamente no verificados para el tratamiento del coronavirus, como la oración curativa, los tratamientos a base de hierbas y los suplementos vitamínicos antivirales proliferaron en Amazon [18, 28], tanto que la empresa tuvo que eliminar 1 millón de productos falsos después de que los medios informaran sobre varios casos de tales tratamientos. [22]. La escala del contenido problemático sugiere que Amazon podría ser un gran facilitador de información errónea, especialmente información errónea sobre salud. No solo aloja contenido problemático relacionado con la salud, sino que sus algoritmos de recomendación impulsan el compromiso al ofrecer productos de salud potencialmente dudosos a los usuarios del sistema [27, 59]. Por lo tanto, en este documento investigamos a Amazon, el minorista electrónico líder en el mundo, en busca de la forma más crítica de información errónea sobre la salud: información errónea sobre vacunas.
¿Cuál es la cantidad de información errónea presente en los resultados de búsqueda y recomendaciones de Amazon? ¿Cómo afecta la personalización debido al historial del usuario creado progresivamente al realizar acciones del usuario en el mundo real, como hacer clic o navegar por ciertos productos, la cantidad de información errónea que se muestra en los resultados de búsqueda y las recomendaciones posteriores? En este artículo nos adentramos en estas cuestiones. Realizamos 2 conjuntos de experimentos de auditoría sistemática: auditoría no personalizada y auditoría personalizada. En la auditoría no personalizada, adoptamos métricas de recuperación de información de trabajos anteriores [42] para determinar la cantidad de información errónea sobre la salud a la que están expuestos los usuarios cuando buscan consultas relacionadas con vacunas. En particular, examinamos los resultados de búsqueda de 48 consultas de búsqueda que pertenecen a 10 temas populares relacionados con vacunas como 'vacuna contra el VPH', 'inmunización', 'vacuna MMR y autismo', etc. Recopilamos resultados de búsqueda sin iniciar sesión en Amazon para eliminar la influencia. de personalización Para obtener información detallada sobre el algoritmo de búsqueda y clasificación de la plataforma, nuestras auditorías no personalizadas se realizaron durante 15 días consecutivos, clasificando los resultados de búsqueda en 5 filtros diferentes de Amazon cada día: "destacado", "precio de menor a mayor", "precio de mayor a menor" , "revisión de cliente promedio" y "recién llegados". La primera auditoría dio como resultado 36 000 resultados de búsqueda y 16 815 recomendaciones de páginas de productos que luego anotamos por su postura sobre la desinformación sobre la salud: promoción, neutralidad o desacreditación.
En nuestro segundo conjunto de auditorías: auditoría personalizada, determinamos el impacto de la personalización debido al historial del usuario en la cantidad de información errónea sobre la salud que se devuelve en los resultados de búsqueda, las recomendaciones y las sugerencias de autocompletar. El historial del usuario se construye progresivamente durante 7 días mediante la realización de varias acciones del mundo real, como "buscar", "buscar + hacer clic", "buscar + hacer clic + agregar al carrito", "buscar + hacer clic + marcar como mejor valorado todas las reseñas positivas como útil”, “seguir al colaborador” y “buscar en un sitio web de terceros” (Google.com en nuestro caso). Recopilamos varios componentes de Amazon en nuestra auditoría personalizada, como páginas de inicio, páginas de productos, páginas de precompra, resultados de búsqueda, etc. Nuestras auditorías revelan que Amazon alberga una gran cantidad de productos desinformativos sobre la salud que pertenecen a varias categorías, incluidos libros, libros electrónicos Kindle, Amazon Moda (por ejemplo, ropa, camisetas, etc.) y artículos de salud y cuidado personal (por ejemplo, suplementos dietéticos). También establecemos la presencia de un efecto de burbuja de filtro en las recomendaciones de Amazon, donde las recomendaciones de productos de salud desinformativos contienen más desinformación sobre la salud.
A continuación, presentamos nuestras preguntas formales de investigación, hallazgos clave, contribuciones e implicaciones de este estudio junto con las consideraciones éticas tomadas para realizar auditorías de plataforma.