Incidente 419: Facebook's Automated Moderation Allowed Ads Threatening Election Workers to be Posted

Descripción: Facebook's automated moderating system failed to flag and allowed ads containing explicit violent language against election workers to be published.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Presunto: un sistema de IA desarrollado e implementado por Facebook, perjudicó a Facebook users.

Estadísticas de incidentes

ID
419
Cantidad de informes
3
Fecha del Incidente
2022-12-01
Editores
Khoa Lam
Applied Taxonomies
MIT

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

7.3. Lack of capability or robustness

Risk Domain

  1. AI system safety, failures, and limitations

Entity

AI

Timing

Post-deployment

Intent

Unintentional

Facebook no pudo detener los anuncios que amenazaban a los trabajadores electorales
nytimes.com · 2022
Traducido por IA

Facebook dice que no permite contenido que amenace con violencia grave. Pero cuando los investigadores enviaron anuncios que amenazaban con "linchar", "asesinar" y "ejecutar" a los trabajadores electorales alrededor del día de las eleccione…

“Los vamos a matar a todos”: Aprobadas en Facebook amenazas de muerte contra trabajadores electorales de EE.UU.
globalwitness.org · 2022
Traducido por IA

Una investigación realizada por Global Witness y el equipo de Ciberseguridad para la Democracia (C4D) de la NYU analizó la capacidad de Facebook, TikTok y YouTube para detectar y eliminar las amenazas de muerte contra los trabajadores elect…

Facebook no detectó amenazas de muerte contra trabajadores electorales antes de las elecciones de mitad de período en EE. UU.
globalwitness.org · 2022
Traducido por IA

Facebook no pudo detectar tres cuartas partes de los anuncios de prueba que llamaban explícitamente a la violencia y al asesinato de los trabajadores electorales de EE. UU. antes de las elecciones intermedias muy disputadas a principios de …

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.
Incidente AnteriorSiguiente Incidente