Incidentes Asociados
Los algoritmos de recomendación de Instagram han estado conectando y promocionando cuentas que facilitan y venden contenido de abuso sexual infantil, según una investigación publicada el miércoles.
El servicio para compartir fotografías de Meta se destaca de otras plataformas de redes sociales y "parece tener un problema particularmente grave" con cuentas que muestran material de abuso sexual infantil autogenerado. , o SG-CSAM, escribieron investigadores de la Universidad de Stanford en un estudio adjunto. Estas cuentas pretenden ser operadas por menores.
"Debido al uso generalizado de hashtags, la vida relativamente larga de las cuentas de vendedores y, especialmente, el eficaz algoritmo de recomendación, Instagram sirve como mecanismo de descubrimiento clave para esta comunidad específica de compradores y vendedores", según el estudio, citado en la investigación de The Wall Street Journal, el Centro de Política Cibernética del Observatorio de Internet de la Universidad de Stanford y la Universidad de Massachusetts Amherst.
Si bien cualquier usuario que busque hashtags explícitos puede encontrar las cuentas, los investigadores descubrieron que los algoritmos de recomendación de Instagram también las promocionaban "entre los usuarios que ven una cuenta en la red, lo que permite el descubrimiento de cuentas sin búsquedas de palabras clave".
Un portavoz de Meta dijo en un comunicado que la compañía ha estado tomando varias medidas para solucionar los problemas y que "estableció un grupo de trabajo interno" para investigar y abordar estas afirmaciones.
"La explotación infantil es un crimen horrible", afirmó el portavoz. "Trabajamos agresivamente para combatirlo dentro y fuera de nuestras plataformas, y para apoyar a las autoridades en sus esfuerzos por arrestar y procesar a los criminales detrás de esto".
Alex Stamos, ex director de seguridad de Facebook y uno de los autores del artículo, dijo en un tuit el miércoles que los investigadores se centraron en Instagram porque su "posición como el sitio más Una plataforma popular para adolescentes a nivel mundial la convierte en una parte fundamental de este ecosistema". Sin embargo, añadió que "Twitter sigue teniendo serios problemas con la explotación infantil".
Stamos, quien ahora es director del Observatorio de Internet de Stanford, dijo que el problema persistió después de que Elon Musk adquiriera Twitter a fines del año pasado.
"Lo que encontramos es que el escaneo básico de Twitter en busca de CSAM conocido se rompió después de la adquisición del Sr. Musk y no se solucionó hasta que les notificamos", escribió Stamos.
"Luego cortaron nuestro acceso a la API", añadió, refiriéndose al software que permite a los investigadores acceder a los datos de Twitter para realizar sus estudios.
A principios de este año, NBC News informó varias cuentas de Twitter que ofrecen o venden CSAM han permanecido disponible durante meses, incluso después de que Musk se comprometió a abordar los problemas de explotación infantil en el servicio de mensajería social.
Twitter no proporcionó ningún comentario para esta historia.