Description: Facebook's AI moderation system wrongly flagged and removed dozens of posts containing vital emergency information during California's wildfire season, including real-time updates on evacuations and fire tracking. Posts from official sources like Cal Fire and the U.S. Forest Service were marked as spam, potentially endangering lives by restricting access to crucial updates. Despite user complaints, the issue persisted, with Facebook acknowledging the problem only after media inquiry.
Alleged: Meta と Facebook developed and deployed an AI system, which harmed California residents , Wildfire evacuees , Emergency responders , Disaster relief workers , Fire safety coordinators , Facebook users と Facebook users in disaster zones.
インシデントのステータス
インシデントID
796
レポート数
3
インシデント発生日
2024-06-01
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
washingtonpost.com · 2024
- 情報源として元のレポートを表示
- インターネットアーカイブでレポートを表示
日曜日の午後2時頃、ローリ・ハッチンソンさんの娘が「火事だ」と叫びながら家の中に駆け込んできた。
灰色の煙の柱が、湖の真向かいにある北カリフォルニアの辺鄙な町クリアレイクから急速に立ち上っていた。元消防士で消防署長と結婚したハッチンソンさんは、夫が消防無線をオンにしたので携帯電話をつかんだ。通信指令員が避難と近隣の郡からの応援を要請していた。数分後、現在は消防安全コーディネーターとして働くハッチンソンさんは、ボイルズ火災について知っていることをレイク郡消防安全協議会のFace…
mashable.com · 2024
- 情報源として元のレポートを表示
- インターネットアーカイブでレポートを表示
報道によ ると、Facebookは、山火事シーズンが米国西部に広がる中、重要な安全情報を削除している。
The Washington Postによる調査では、6月以降、合計20件の火災が発生した地域で、このテクノロジー大手が投稿にフラグを付けて削除した事例が数十件あることが判明した。投稿には、山火事の動きに関するライブアラートを提供する非営利リソースである火災安全アプリWatch Dutyへのリンクやスクリーンショットが含まれることが多かった。カリフォルニア州の火災が発生しやす…
thecooldown.com · 2024
- 情報源として元のレポートを表示
- インターネットアーカイブでレポートを表示
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents