Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 1920

Incidentes Asociados

Incidente 2963 Reportes
Twitter Recommender System Amplified Right-Leaning Tweets

Loading...
El algoritmo de Twitter no parece silenciar a los conservadores
economist.com · 2020

DESDE EL LANZAMIENTO de una política sobre “información engañosa” en mayo, Twitter se ha enfrentado con el presidente Donald Trump. Cuando describió las boletas por correo como “sustancialmente fraudulentas”, la plataforma les dijo a los usuarios que “obtuvieran los hechos” y los vinculó a artículos que demostraban lo contrario. Después de que Trump amenazó de muerte a los saqueadores —“cuando comienza el saqueo, comienza el tiroteo”—, Twitter dijo que su tuit infringía las reglas contra la “glorificación de la violencia”. El 28 de julio, el sitio eliminó un tuit de Donald Trump junior que promocionaba un medicamento contra la malaria para covid-19 que muchos estudios desacreditan.

El presidente dice que “las plataformas de redes sociales silencian totalmente las voces de los conservadores”. Sin embargo, un estudio de The Economist encuentra lo contrario. El feed de Twitter solía mostrar a las personas las últimas publicaciones de las cuentas que seguían, pero en 2016 lanzó un algoritmo para mostrar tweets "relevantes" a los usuarios, incluso si tenían días de antigüedad y eran de cuentas desconocidas. Comparamos los dos sistemas y descubrimos que el motor de recomendaciones parece recompensar el lenguaje incendiario y las afirmaciones extravagantes.

Nuestro experimento comenzó en junio de 2019, cuando creamos un clon del perfil de Trump. Este bot usó su foto, biografía y ubicación, y siguió a las mismas personas que él. Lo usamos para volver a publicar algunos de los tuits antiguos del presidente durante varias semanas, de modo que el algoritmo pudiera aprender qué le importaba a nuestro clon de Trump.

Luego, de septiembre a diciembre, verificamos cada diez minutos si Trump había tuiteado algo. Si es así, sucedieron tres cosas. Primero, nuestro clon repitió el tuit. En segundo lugar, revisamos su feed de Twitter y registramos las primeras 24 publicaciones servidas por el algoritmo. Finalmente, simulamos cómo podría haber sido un feed cronológico, utilizando los 24 tuits más recientes de las cuentas que sigue Trump.

Nuestras fuentes algorítmicas y cronológicas diferían marcadamente. Casi la mitad de los tuits recomendados fueron de usuarios a los que Trump no sigue. Usando herramientas de análisis de sentimientos para extraer sentimientos del texto, descubrimos que el tweet seleccionado promedio era más emotivo, en todas las escalas, que su equivalente cronológico, y más que las publicaciones del propio Trump también.

El análisis de sentimientos puede ser confuso. Las puntuaciones emocionales asignadas a los tuits por, digamos, Sean Hannity, un experto de derecha, pueden ser muy negativas, no porque se reflejen mal en él, sino porque critica estridentemente a otros, como los demócratas. No obstante, en una muestra de 120.000 tuits, era más probable que las publicaciones recomendadas por el algoritmo se ubicaran cerca de cualquier extremo de un espectro de positivo a negativo.

Twitter también podría impulsar las opiniones extremas. Investigadores de la Universidad de Indiana clasificaron una lista de sitios web de izquierda y derecha como poco confiables o hiperpartidistas. Encontramos 1.647 enlaces a dichos dominios en el feed algorítmico de nuestro clon, pero solo 895 en el cronológico. (Casi todos los casos en ambos feeds eran de derecha).

Nuestro experimento terminó cuando un cambio en la interfaz de Twitter rompió nuestro bot. La plataforma también suspendió a otro clon de Trump que copió su amenaza de saqueo. Sin embargo, si se ha mantenido una inclinación algorítmica por el sensacionalismo, es posible que Twitter esté amplificando y beneficiándose de los tuits engañosos, en lugar de eliminarlos. Su negocio es mostrar anuncios a 330 millones de usuarios, incluso si eso significa captar su atención mostrándoles exactamente lo que quieren creer. Marcar un hito presidencial de vez en cuando no cambiará eso.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd