Incidente 796: Facebook's Content Moderation System Flagged and Removed Emergency Updates as Spam During Wildfires

Descripción: Facebook's AI moderation system wrongly flagged and removed dozens of posts containing vital emergency information during California's wildfire season, including real-time updates on evacuations and fire tracking. Posts from official sources like Cal Fire and the U.S. Forest Service were marked as spam, potentially endangering lives by restricting access to crucial updates. Despite user complaints, the issue persisted, with Facebook acknowledging the problem only after media inquiry.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Estadísticas de incidentes

ID
796
Cantidad de informes
3
Fecha del Incidente
2024-06-01
Editores
Daniel Atherton
Applied Taxonomies
MIT

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

7.3. Lack of capability or robustness

Risk Domain

  1. AI system safety, failures, and limitations

Entity

AI

Timing

Post-deployment

Intent

Unintentional

Facebook bloquea las advertencias de emergencia mientras los incendios forestales arrasan Occidente
washingtonpost.com · 2024
Traducido por IA

Alrededor de las 2 p. m. del domingo por la tarde, la hija de Lauri Hutchinson entró corriendo a la casa gritando: "Fuego".

Una columna de humo gris se elevaba rápidamente desde el remoto pueblo de Clearlake, en el norte de California, just…

Facebook marcó y eliminó información de emergencia sobre incendios forestales como 'spam'
mashable.com · 2024
Traducido por IA

Según se informa, Facebook está eliminando información de seguridad importante a medida que la temporada de incendios forestales se extiende por la parte occidental del país.

Una investigación de The Washington Post encontró docenas de caso…

Facebook se mete en problemas tras marcar como spam advertencias vitales de seguridad contra incendios forestales: "Es potencialmente mortal"
thecooldown.com · 2024
Traducido por IA

Facebook está bajo un intenso escrutinio después de marcar como spam las actualizaciones de emergencia sobre eventos climáticos extremos publicadas por grupos de voluntarios, departamentos y organizaciones locales.

El Washington Post inform…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Firefighters attempt to contain Bel-Air blaze ahead of the strong winds expected Thursday night

· 22 informes
Uber AV Killed Pedestrian in Arizona

Tempe police release report, audio, photo

· 25 informes

Crime-fighting robot hits, rolls over child at Silicon Valley mall

· 27 informes
Incidente AnteriorSiguiente Incidente