Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
組織

Fire safety coordinators

影響を受けたインシデント

インシデント 7963 Report
Facebook's Content Moderation System Flagged and Removed Emergency Updates as Spam During Wildfires

2024-06-01

Facebook's AI moderation system wrongly flagged and removed dozens of posts containing vital emergency information during California's wildfire season, including real-time updates on evacuations and fire tracking. Posts from official sources like Cal Fire and the U.S. Forest Service were marked as spam, potentially endangering lives by restricting access to crucial updates. Despite user complaints, the issue persisted, with Facebook acknowledging the problem only after media inquiry.

もっと

関連団体
同じインシデントに関連するその他のエンティティ。たとえば、インシデントの開発者がこのエンティティで、デプロイヤーが別のエンティティである場合、それらは関連エンティティとしてマークされます。
 

Entity

Meta

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 796
    3 レポート

    Facebook's Content Moderation System Flagged and Removed Emergency Updates as Spam During Wildfires

もっと
Entity

Facebook

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 796
    3 レポート

    Facebook's Content Moderation System Flagged and Removed Emergency Updates as Spam During Wildfires

もっと
Entity

California residents

影響を受けたインシデント
  • インシデント 796
    3 レポート

    Facebook's Content Moderation System Flagged and Removed Emergency Updates as Spam During Wildfires

もっと
Entity

Wildfire evacuees

影響を受けたインシデント
  • インシデント 796
    3 レポート

    Facebook's Content Moderation System Flagged and Removed Emergency Updates as Spam During Wildfires

もっと
Entity

Emergency responders

影響を受けたインシデント
  • インシデント 796
    3 レポート

    Facebook's Content Moderation System Flagged and Removed Emergency Updates as Spam During Wildfires

もっと
Entity

Disaster relief workers

影響を受けたインシデント
  • インシデント 796
    3 レポート

    Facebook's Content Moderation System Flagged and Removed Emergency Updates as Spam During Wildfires

もっと
Entity

Facebook users

影響を受けたインシデント
  • インシデント 796
    3 レポート

    Facebook's Content Moderation System Flagged and Removed Emergency Updates as Spam During Wildfires

もっと
Entity

Facebook users in disaster zones

影響を受けたインシデント
  • インシデント 796
    3 レポート

    Facebook's Content Moderation System Flagged and Removed Emergency Updates as Spam During Wildfires

もっと

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df