Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

インシデント 699: VA Suicide Prevention Algorithm REACH VET Reportedly Prioritizes Men Over Women Veterans

概要: An AI program named REACH VET, designed and used by the Department of Veterans Affairs (VA) to prevent veteran suicides, was reportedly found to prioritize white men while neglecting female veterans and survivors of military sexual trauma. This oversight persists despite rising suicide rates among these groups. The incident is an example of algorithmic bias and the exclusion of critical risk factors for female veterans.

ツール

新しいレポート新しいレポート新しいレスポンス新しいレスポンス発見する発見する履歴を表示履歴を表示

組織

すべての組織を表示
推定: Department of Veterans Affairs (VA)が開発し提供したAIシステムで、Veterans , Survivors of military sexual trauma と Female veteransに影響を与えた

インシデントのステータス

インシデントID
699
レポート数
2
インシデント発生日
2024-05-23
エディタ
Daniel Atherton
Applied Taxonomies
MIT

MIT 分類法のクラス

Machine-Classified
分類法の詳細

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

1.1. Unfair discrimination and misrepresentation

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Discrimination and Toxicity

Entity

Which, if any, entity is presented as the main cause of the risk
 

Human

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

インシデントレポート

レポートタイムライン

+1
退役軍人省の退役軍人自殺防止アルゴリズムは男性を優遇
女性退役軍人の自殺率が急上昇しているのはなぜか? AIのせいか?
退役軍人省の退役軍人自殺防止アルゴリズムは男性を優遇

退役軍人省の退役軍人自殺防止アルゴリズムは男性を優遇

military.com

女性退役軍人の自殺率が急上昇しているのはなぜか? AIのせいか?

女性退役軍人の自殺率が急上昇しているのはなぜか? AIのせいか?

fullerproject.org

退役軍人省の退役軍人自殺防止アルゴリズムは男性を優遇
military.com · 2024
自動翻訳済み

フラー・プロジェクトの調査で、米国の退役軍人の自殺防止を目的とした人工知能(AI)プログラムは、白人男性を優先し、女性にはるかに大きな割合で影響を及ぼす性的暴力の被害者を無視していることが判明した。

文書によると、退役軍人省が「統計的に自殺リスクが最も高い」患者をターゲット支援するために使用するアルゴリズムは、61の変数を考慮している。このアルゴリズムは「離婚した男性」および「未亡人で男性」の退役軍人を優先しているが、女性退役軍人のグループには優先していない。

軍隊での性的ト…

女性退役軍人の自殺率が急上昇しているのはなぜか? AIのせいか?
fullerproject.org · 2024
自動翻訳済み

警告: このニュースレターには自殺に関する記述が随所に含まれています。

最新の米国政府報告書で、女性退役軍人の自殺率がなぜ 24% も急上昇したのか? それが私たちが答えたかった疑問です。

専門家は、軍に所属する女性が経験する性的トラウマの率の高さ、妊娠、更年期、親密なパートナーによる暴力、軍服を着たことのない女性に比べて女性退役軍人の銃器所有率が高いことなど、さまざまな要因を指摘しました。問題は、これらすべての要因が長年続いていることでした。彼らは増加の原因を説明できません…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
前のインシデント次のインシデント

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 1420c8e