Incidentes Asociados
¿Quiere comercializar recuerdos nazis o reclutar manifestantes para un mitin de extrema derecha? La plataforma de compra de anuncios de autoservicio de Facebook tenía la audiencia adecuada para usted.
Hasta esta semana, cuando le preguntamos a Facebook al respecto, la red social más grande del mundo permitía a los anunciantes dirigir sus lanzamientos a las noticias de casi 2300 personas que expresaron interés en los temas de "odiador de judíos", "cómo quemar judíos" o , “Historia de 'por qué los judíos arruinan el mundo'”.
Para probar si estas categorías de anuncios eran reales, pagamos $30 para dirigirnos a esos grupos con tres "publicaciones promocionadas", en las que se mostraba un artículo o publicación de ProPublica en sus noticias. Facebook aprobó los tres anuncios en 15 minutos.
Después de contactarnos con Facebook, eliminó las categorías antisemitas, que fueron creadas por un algoritmo en lugar de personas, y dijo que exploraría formas de solucionar el problema, como limitar la cantidad de categorías disponibles o examinarlas antes de que se muestren. a los compradores
“Hay momentos en los que aparece contenido en nuestra plataforma que viola nuestros estándares”, dijo Rob Leathern, director de gestión de productos de Facebook. “En este caso, hemos eliminado los campos de orientación asociados en cuestión. Sabemos que tenemos más trabajo por hacer, por lo que también estamos construyendo nuevas barreras en nuestro producto y procesos de revisión para evitar que ocurran otros problemas como este en el futuro”.
La publicidad de Facebook se ha convertido en un foco de atención nacional desde que reveló la semana pasada que había descubierto anuncios por valor de $ 100,000 colocados durante la temporada de elecciones presidenciales de 2016 por [cuentas "no auténticas" que parecían estar afiliadas con Rusia] (https://newsroom. fb.com/news/2017/09/information-operations-update/amp/).
Al igual que muchas empresas de tecnología, Facebook ha tomado durante mucho tiempo un enfoque de no intervención en su negocio de publicidad. A diferencia de las empresas de medios tradicionales que seleccionan las audiencias que ofrecen a los anunciantes, Facebook genera sus categorías de anuncios automáticamente basándose tanto en lo que los usuarios comparten explícitamente con Facebook como en lo que transmiten implícitamente a través de su actividad en línea.
Tradicionalmente, las empresas de tecnología han afirmado que no es su función censurar Internet o desalentar la expresión política legítima. A raíz de las violentas protestas en Charlottesville por parte de grupos de derecha que incluían a autodenominados nazis, Facebook y otras compañías tecnológicas prometieron fortalecer su monitoreo del discurso de odio.
El CEO de Facebook, Mark Zuckerberg, escribió en ese momento que "no hay lugar para el odio en nuestra comunidad" y se comprometió a mantener una relación más cercana. Ojo con las publicaciones de odio y las amenazas de violencia en Facebook. “Es una vergüenza que todavía tengamos que decir que los neonazis y los supremacistas blancos están equivocados, como si esto no fuera obvio”, escribió.
Pero aparentemente Facebook no intensificó su escrutinio de su plataforma de compra de anuncios. Con toda probabilidad, las categorías de anuncios que detectamos se generaron automáticamente porque las personas habían incluido esos temas antisemitas en sus perfiles de Facebook como un interés, un empleador o un "campo de estudio". El algoritmo de Facebook transforma automáticamente los intereses declarados de las personas en categorías publicitarias.
Aquí hay una captura de pantalla de nuestro proceso de compra de anuncios en el [portal de publicidad] de la empresa (https://www.facebook.com/business):
Esta no es la primera controversia sobre las categorías de anuncios de Facebook. El año pasado, ProPublica pudo bloquear un anuncio que compramos en las categorías de vivienda de Facebook para que no se mostrase a afroamericanos, hispanos y asiático-americanos, lo que plantea la cuestión de si tales anuncios publicitarios violan las leyes contra la discriminación en la publicidad de viviendas. Después de que apareció el artículo de ProPublica, Facebook creó un sistema que, según dijo, [evitaría que se aprobaran dichos anuncios] (https://www.propublica.org/article/facebook-to-stop-allowing-some-advertisers-to-exclude- usuarios por raza).
El año pasado, ProPublica también recopiló una lista de las categorías publicitarias que Facebook proporcionaba a los anunciantes. Descargamos más de 29 000 categorías de anuncios del sistema de anuncios de Facebook y encontramos categorías que van desde un interés en "salchichas húngaras" hasta "personas en hogares que tienen un ingreso familiar estimado de entre $ 100K y $ 125K".
En ese momento, no encontramos ninguna categoría antisemita, pero no sabemos si capturamos todas las posibles categorías de anuncios de Facebook o si estas categorías se agregaron más tarde. Un portavoz de Facebook no respondió a una pregunta sobre cuándo se introdujeron las categorías.
La semana pasada, siguiendo un consejo, iniciamos sesión en el sistema de anuncios automatizado de Facebook para ver si "odiador de judíos" era realmente una categoría de anuncios. Lo encontramos, pero descubrimos que la categoría, con solo 2274 personas, era demasiado pequeño para que Facebook nos permita comprar un anuncio vinculado solo a los que odian a los judíos.
El sistema automatizado de Facebook sugirió la "Segunda Enmienda" como una categoría adicional que aumentaría el tamaño de nuestra audiencia a 119 000 personas, presumiblemente porque su sistema había correlacionado a los entusiastas de las armas con los antisemitas.
El sitio muestra a los usuarios cómo los clasifica Facebook. No revela los datos que está comprando sobre sus vidas fuera de línea.
En su lugar, elegimos categorías adicionales que aparecieron cuando escribimos “judío h”: “Cómo quemar judíos” e “Historia de 'por qué los judíos arruinan el mundo'”. Luego agregamos una categoría que sugirió Facebook [cuando escribimos “Hitler](https://assets.propublica.org/images/articles/20170914- -Categorías-sugeridas-Hitler.png)”: una categoría llamada “Hitler no hizo nada malo”. Todos fueron descritos como "campos de estudio".
Estas categorías de anuncios eran pequeñas. Solo dos personas figuraron como el tamaño de la audiencia para “[cómo quemar judíos](https://assets.propublica.org/images/articles /20170914-2-people-in-how-to-burn-jews-category.png)”, y solo uno para “Historia de '[por qué los judíos arruinan el mundo'”](https://assets.propublica. org/images/articles/20170914-1-person-for-how-jews-ruin-the-world.png) Otras 15 personas componían la audiencia de “[Hitler no hizo nada malo](https://assets.propublica.org /images/articles/20170914-15-for-Hitler-hizo-nada-mal.png)”.
El sistema automatizado de Facebook nos dijo que todavía no teníamos una audiencia lo suficientemente grande como para realizar una compra. Así que añadimos el "Schutzstaffel alemán", comúnmente conocido como las SS nazis, y el "Partido nazi", ambos descritos por los anunciantes como grupos de "empleadores". Sus audiencias eran más grandes: 3194 para las SS y 2449 para Partido Nazi.
Aún así, Facebook dijo que necesitábamos más, por lo que agregamos personas interesadas en el Partido Nacional Democrático de Alemania, un partido político ultranacionalista de extrema derecha, con una audiencia mucho [mayor de 194,600] (https://assets.propublica. org/images/articles/20170914-194600-potencial-audiencia-para-NPD.png).
Una vez que tuvimos nuestra audiencia, enviamos nuestro anuncio, que promocionaba un [artículo de noticias de ProPublica no relacionado] (https://www.facebook.com/propublica/posts/10155773410229445). En 15 minutos, Facebook aprobó nuestro anuncio, con un cambio. En su pantalla de aprobación, Facebook describió la categoría de segmentación de anuncios “Hater judío” como “Antysemityzm”, la palabra polaca para antisemitismo. Solo para asegurarnos de que se refería a la misma categoría, compramos dos anuncios adicionales usando el término “hater judío” en combinación con [otro](https://assets.propublica.org/images/articles/20170914-Ad-buy -2-lo-que-enviamos.png) términos. Ambos [veces](https://assets.propublica.org/ images/articles/20170914-Ad-buy-3-what-Facebook-accepted.png), Facebook cambió la categoría de orientación de anuncios "Jew hater" a "Antisemityzm" en su aprobación.
Este es uno de nuestros anuncios aprobados de Facebook:
Unos días después, Facebook nos envió los resultados de nuestras campañas. Nuestros tres anuncios llegaron a 5897 personas, generaron 101 clics y 13 "compromisos", que podrían ser un "me gusta", un "compartir" o un comentario en una publicación.
Desde que contactamos a Facebook, la mayoría de las [categorías] antisemitas han desaparecido (https://assets.propublica.org/images/articles/20170914-Categories-deleted-9_14.png).
El portavoz de Facebook, Joe Osborne, dijo que no parecían haber sido ampliamente utilizados. “Hemos analizado el uso de estas audiencias y campañas y no es común ni generalizado”, dijo.
Buscamos categorías publicitarias análogas para otras religiones, como "los que odian a los musulmanes". Facebook no los tenía.
Actualización, 14 de septiembre de 2017: Esta historia se ha actualizado para incluir el nombre del portavoz de Facebook.