Incidentes Asociados
Instagram usó la imagen de un usuario que incluía el texto "¡Te violaré antes de matarte, puta sucia!" para anunciar su servicio en Facebook, el último ejemplo de algoritmos de redes sociales que impulsan el contenido ofensivo.
La reportera de The Guardian Olivia Solon descubrió recientemente que Instagram, propiedad de Facebook, hizo un anuncio a partir de una foto que había publicado de una amenaza violenta que recibió en un correo electrónico, que decía "Olivia, maldita perra!!!!!!" y "Te violaré".
Instagram seleccionó la captura de pantalla, que publicó hace casi un año, para anunciar la plataforma para compartir fotos a la hermana de Solon esta semana, con el mensaje: "Vea la foto de Olivia Solon y las publicaciones de amigos en Instagram".
El anuncio apareció en un momento en que Facebook enfrenta un intenso escrutinio por las fallas éticas de sus algoritmos y herramientas publicitarias. La semana pasada, ProPublica informó que Facebook estaba [permitiendo a los anunciantes dirigirse a los usuarios](https://www .theguardian.com/technology/2017/sep/14/facebook-advertising-jew-hater-antisemitism) interesado en el tema de “Hater judío” y “Cómo quemar judíos”, categorías que el sitio de redes sociales había creado automáticamente. Los periodistas pudieron pagar $ 30 para dirigir "publicaciones promocionadas" a los grupos antisemitas.
Otros rápidamente descubrieron que había una variedad de términos intolerantes y despectivos que Facebook permitía para la orientación de anuncios y que Google y [Twitter](http://www.thedailybeast .com/twitter-lets-you-target-millions-of-users-who-may-like-the-n-word) tenían problemas similares.
La directora de operaciones de Facebook, Sheryl Sandberg, emitió un mea culpa el miércoles y dijo que la compañía estaba [cambiando sus políticas como resultado](https://www .theguardian.com/technology/2017/sep/20/facebook-jew-haters-ad-targeting-sheryl-sandberg). Facebook deshabilitó el sistema de orientación que creó las categorías ofensivas, y Sandberg dijo que el sitio solo permitiría opciones de orientación revisadas por humanos en el futuro.
No está claro por qué Instagram eligió resaltar el correo de odio de Solon a sus amigos en Facebook. Cuando publicó la captura de pantalla el año pasado, escribió: “Este es un correo electrónico que recibí esta tarde. Lamentablemente, esto es demasiado común para las mujeres en Internet. Estoy seguro de que esto es solo un idiota en lugar de cualquier tipo de amenaza creíble, pero sigue siendo bastante vil”.
La foto recibió tres me gusta y más de una docena de comentarios de simpatía. Es posible que el algoritmo de Instagram lo haya considerado una publicación “interesante” debido a la cantidad de respuestas. Pero dada la tecnología existente que puede analizar palabras incrustadas en imágenes, no está claro si Instagram tiene algún sistema que detecte el texto violento y abusivo y lo marque como una opción inapropiada para un anuncio.
Un portavoz de Instagram se disculpó y afirmó que la imagen no se usó en una "promoción paga". “Lamentamos que esto haya sucedido, no es la experiencia que queremos que alguien tenga”, dijo el comunicado. “Esta publicación de notificación apareció como parte de un esfuerzo para fomentar la participación en Instagram. Las publicaciones generalmente son recibidas por un pequeño porcentaje de los amigos de Facebook de una persona”.
El portavoz dijo que este tipo de publicaciones fueron diseñadas para motivar a las personas que no están en Instagram o que no han estado en el sitio recientemente a visitar la plataforma mostrándoles contenido de sus amigos. La compañía no respondió preguntas sobre qué tan ampliamente se compartió la publicación, pero dijo que habría surgido a algunos de los amigos de Facebook de Solon.
Los algoritmos de Facebook se han enfrentado durante mucho tiempo a una reacción violenta por causar inadvertidamente dolor y daño a sus usuarios. En 2014, la empresa se vio obligada a disculparse por su "año in Review”, que crearon una serie automatizada de publicaciones que destacaban recuerdos hirientes de seres queridos fallecidos e incidentes trágicos, publicaciones que presumiblemente ten ían mucho “compromiso”. La función de nostalgia "On This Day" de la compañía, que recupera publicaciones antiguas, ha enfrentado [críticas similares] (https://www.theverge.com/2015/4/2/8315897/facebook-on-this-day-nostalgia- app-recuperando-recuerdos-dolorosos).
Facebook también admitió este mes que una [operación de influencia probablemente basada en Rusia] (https://www.theguardian.com/technology/2017/sep/06/facebook-political-ads-russia-us-election-trump-clinton) compró $ 100,000 en anuncios para promover mensajes políticos divisivos. El miércoles, 20 senadores y representantes demócratas urgieron a la Comisión Federal de Elecciones a “desarrollar una nueva guía para las plataformas publicitarias sobre cómo para prevenir el gasto extranjero ilícito en las elecciones estadounidenses”.
La semana pasada, Facebook también fue objeto de burlas después de que envió a un reportero de ProPublica detrás de la investigación del “enemigo de los judíos” un correo electrónico automático sugiriendo que comprara un anuncio para promocionar su historia que exponía las vergonzosas prácticas publicitarias de Facebook.