フラー・プロジェクトの調査で、米国の退役軍人の自殺防止を目的とした人工知能（AI）プログラムは、白人男性を優先し、女性にはるかに大きな割合で影響を及ぼす性的暴力の被害者を無視していることが判明した。
文書によると、退役軍人省が「統計的に自殺リスクが最も高い」患者をターゲット支援するために使用するアルゴリズムは、61の変数を考慮している。このアルゴリズムは「離婚した男性」および「未亡人で男性」の退役軍人を優先しているが、女性退役軍人のグループには優先していない。
軍隊での性的トラウマと親密なパートナーによる暴力は 、女性退役軍人の自殺リスクの上昇につながる リンク という 2 つの要因が考慮されていない。
最近発表された政府の データ によると、2020 年から 2021 年にかけて女性退役軍人の自殺率は 24% 上昇している。これは、同じ 1 年間の男性退役軍人の増加率の 4 倍である。また、軍隊に所属したことのない女性の増加率 2.6% の 10 倍にも上る。 「軍隊で女性として働くのは十分大変でした。私たちは嫌がらせを受け、いじめられました」と、ナバホ族出身の45歳の空軍退役軍人、ポレット・ヤジーさんは語った。彼女はイラクへの派遣を含め、13年間軍隊に勤務した。「今、私たちは再び後ろに追いやられています」と彼女は語った。
元二等軍曹のヤジーさんは、VAの自殺防止アルゴリズムが男性を優先していると知らされたとき、涙を流した。イラクでは絶え間ない性的嫌がらせや望まないアプローチに直面し、派遣中は電気をつけたまま、ドアに鍵をかけ、椅子をドアに立てかけて寝て、さらに身を守ったと語った。
「彼らはいつも私たちのことを二の次に考えています」と彼女は語った。「これでは人々の命が失われることになります」
VAは、機械学習モデルREACH VETを「自殺リスクの特定に役立つ検証済みアルゴリズムの国内初の臨床使用」と宣伝している。 2017年に開始されたこのシステムは、毎月6,700人の退役軍人に特別な支援を求めています。VA当局は、このシステムにより、その後6か月間にこれらの退役軍人による自殺未遂が大幅に減少したと述べています。
5月13日、同局のキャロリン・クランシー保健次官は議会公聴会でこのシステムを「ゲームチェンジャー」と呼びました。
インタビューで、VAの自殺防止担当エグゼクティブディレクターであるマシュー・ミラー氏は、アルゴリズムを作成するにあたり、軍での性的トラウマを他の何百もの変数とともに考慮したと述べた。しかし、当局は、レイプや暴行の履歴は「自殺リスクを予測できる最も強力なもの」ではないため、モデルから除外することを決定したと同氏は述べた。
VAは、すべての退役軍人に軍での性的トラウマを経験したかどうかを尋ねる全国スクリーニングプログラムを使用している。女性の約3人に1人、男性の約50人に1人が「はい」と回答し、軍服を着ている間に自分の意志に反して性的行為に耐えることを強いられたと医療提供者に伝えている。別の匿名調査では、女性の退役軍人の3人に2人以上が性的トラウマを経験したとされており、これは報告が大幅に不足している可能性がある。
同氏によると、アルゴリズムは、男性、特に白人男性であることは、女性に影響を与えることが知られている臨床的要因よりも自殺の予測因子としてより重要であると特定した。ミラー氏は、患者が男性の場合、離婚や配偶者の死は自殺リスクの予測因子となるが、女性の場合はそうではないと付け加えた。
「VAが自殺リスクのある女性退役 軍人を見過ごすことを正当化できるのは不快だ」と、イラク・アフガニスタン退役軍人会の最高責任者アリソン・ジャスロー氏はアルゴリズムについて述べた。「これは非常に深刻な問題だ」。
女性退役軍人はVAで最も急速に増加している人口であるにもかかわらず、ジャスロー氏は女性は習慣的に無視されていると述べた。同氏は例として、VAに女性に合う義肢を設計させるための長く、最終的には成功した戦いを挙げた。
ニューヨーク大学の公共利益技術同盟の研究ディレクター、メレディス・ブラサード氏は、同機関のAIシステムが正確な結論に達したかどうか疑問視していると述べた。
「白人男性など、多数派に有利なアルゴリズムがあり、誰かが『それは単なる計算だ』と言うときは、その計算に体系的な偏りが現れている可能性が高い」とブルサード氏は述べた。
男性退役軍人の自殺率は女性退役軍人よりも高いままだが、女性退役軍人の自殺率の上昇率はより速い。アメリカ退役軍人障害者協会の全国立法ディレクター、ジョイ・イレム氏は、ザ・フラー・プロジェクトに対し、女性退役軍人の自殺リスクを高めることが知られている要因の長いリストを除外するという退役軍人省の決定に「困惑している」と語った。その要因には、軍隊での性的トラウマ、親密なパートナーによる暴力、妊娠、更年期、銃器の所有などがある。
アイレム氏は、VAの独自の 研究者 が、女性退役軍人と男性退役軍人では自殺の危険因子が異なることを発見し たと指摘した。女性の自殺率が上昇していることを考えると、「よりカスタマイズされたものが含まれるだろう」と結論付けるのは理にかなっていると彼女は述べた。
アルゴリズムによる偏りの問題は近年注目を集めている。ドナルド・トランプ大統領とジョー・バイデン両大統領は、AI製品の透明性と説明責任を促進するための大統領令を発令しました。VAは、これらの大統領令の対象となる100以上のプログラムを特定しました。
バイデン氏は昨年、連邦政府機関に対し、AIモデルが差別を助長しないようにすることを求める2つの命令を出した(https://www.whitehouse.gov/briefing-room/presidential-actions/2023/10/30/executive-order-on-the-safe-secure-and-trustworthy-development-and-use-of-artificial-intelligence/#:~:text=(d)%20Artificial%20Intelligence%20policies%20must,denied%20equal%20opportunity%20and%20justice.)。同氏は「私の政権は、すでに平等な機会と正義を否定されすぎている人々を不利にするためにAIを使用することを容認することはできないし、今後も容認しない」と述べた。
退役軍人省の自殺防止担当ディレクターのミラー氏は、同省が命令に従うために何をしているのかわからないと述べた。退役軍人省の広報室への追加調査では、詳細は明らかにならなかった。 「自殺防止局は、VAのAIリーダーおよび最高技術責任者（CTO）と協力して、コンプライアンスレビューとモニターの開発に取り組んでいる」と同局は書面で述べた。
VAは、REACH VETアルゴリズムによってフラグが付けられた退役軍人に関するデータの提供を拒否した。同局は患者と結果を追跡する月次ダッシュボードを維持しているが、同局の広報担当者は、VAは情報公開法に基づく要請を受けた場合にのみその情報を共有すると述べた。
VAは米国最大の統合医療システムであり、172の病院と1,000を超える診療所で900万人にサービスを提供している。全50州、プエルトリコ、グアム、米領バージン諸島、ワシントンDCで運営されている。
VAサービスを利用する女性の数は2001年以来5倍に増え、当時の159,810人から現在では80万人以上に増えている。同局によると、女性はVAの新規患者の30％を占めている。
アーロン・グランツは、女性に特化したグローバルニュースルーム、フラープロジェクトのカリフォルニア支局長兼上級編集者です。連絡先は aglantz@fullerproject.org です。
フラープロジェクトは、世界中の女性問題の報道に特化した非営利のニュースルームです。 Fuller Project のニュースレター に登録し、Twitter* または LinkedIn をフォローしてください。*
危機的状況にある退役軍人や自殺を考えている退役軍人、または危機的状況にある退役軍人を知っている方は、退役軍人危機ラインに電話して、24 時間 365 日、機密性の高い危機サポートを受けることができます。988 にダイヤルしてから 1 を押すか、VeteransCrisisLine.net/Chat でオンライン チャットするか、838255 にテキスト メッセージを送信してください。