Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 1476

Incidentes Asociados

Incidente 1392 Reportes
Amazon’s Search and Recommendation Algorithms Found by Auditors to Have Boosted Products That Contained Vaccine Misinformation

Loading...
Los algoritmos de Amazon aumentan la información errónea sobre las vacunas, según un estudio
iol.co.za · 2021

Nueva York - En medio de la creciente preocupación de que las plataformas de comercio electrónico amplifiquen la información errónea sobre vacunas, un nuevo estudio realizado por investigadores de la Universidad de Washington descubrió que Amazon alberga una gran cantidad de productos desinformativos que pertenecen a categorías como libros, libros electrónicos, salud, cuidado personal. y prendas de vestir. Los resultados llevaron a un conjunto de datos de 4.997 productos de Amazon anotados por información errónea sobre la salud, dijo el estudio publicado en el repositorio de preimpresión arXiv.org.

Para el estudio, Prerna Juneja y Tanushree Mitra, ambas de The Information School de la Universidad de Washington, realizaron dos conjuntos de auditorías algorítmicas para detectar información errónea sobre vacunas en los algoritmos de búsqueda y recomendación de Amazon. Su objetivo era determinar empíricamente la cantidad de información errónea devuelta por su algoritmo de búsqueda y recomendación. También investigaron si la personalización debido al historial del usuario desempeña algún papel en la amplificación de la información errónea.

Entonces, realizaron una auditoría sistemática de resultados de búsqueda pertenecientes a consultas de búsqueda relacionadas con vacunas sin iniciar sesión en la plataforma: auditorías no personalizadas. Descubrieron que el 10,47 % de los resultados de búsqueda promocionan productos de salud desinformativos en la plataforma. "Descubrimos que los resultados de búsqueda devueltos por muchas consultas relacionadas con las vacunas contienen una gran cantidad de productos desinformativos que conducen a un alto sesgo de información errónea", dijeron los investigadores.

Además, los productos desinformativos también se clasifican más alto que los productos de desacreditación, según los resultados. A continuación, analizaron los efectos de la personalización debido al historial de la cuenta, donde el historial se construye progresivamente mediante la realización de varias acciones del usuario en el mundo real, como hacer clic en un producto. "Nuestro estudio también sugiere la presencia de un efecto de burbuja de filtro en las recomendaciones, donde a los usuarios que realizan acciones en productos desinformativos se les presenta más información errónea en sus páginas de inicio, recomendaciones de páginas de productos y recomendaciones previas a la compra", dijeron los investigadores.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd