関連インシデント
ブラジル北東部の辺鄙な町に住む元サトウキビ労働者、ホセリア・デ・ブリトさんは、政府の義務付けられたアプリを使って退職金の申請をしました。申請はすぐに処理されるだろうと期待していましたが、実際には、システムによって男性と認識されたため、申請は即座に却下されました。
これは、国立社会保障庁の人工知能（AI）搭載アプリ「Meu INSS」を使って長年傷病手当を申請していたデ・ブリトさんにとって特に苛立たしいことでした。デ・ブリトさんは10代の頃から畑で働き、椎間板ヘルニア、脊柱側弯症、線維筋痛症といった慢性疾患を患っていましたが、これらの病気は社会保障の受給資格を満たしていました。しかし、アプリで申請した書類に些細な誤りがあっただけでも、申請は何度も却下され、救済策もほとんどありませんでした。
「健康状態など、あらゆることを証明する書類をすべて持っているのに、それでも給付金が却下されるんです。本当に屈辱的です」と、読み書きができず、娘に申請を頼まざるを得なかった55歳のデ・ブリトさんは、Rest of Worldに語った。特に「長い間働いてきた」地方の労働者にとって、これは非常に辛いことだと彼女は語った。
ブラジルの社会保障庁（INSS）は、2018年にアプリにAIを導入し、煩雑な手続きを簡素化し、申請手続きを迅速化しようとした。長蛇の列と待ち時間で知られるこの事務所には、当時、医師の診察予約から傷病手当、年金、退職金まで、あらゆる申請が約200万件も保留中だった。AI搭載ツールはそれ以来、数千件の基本的な申請処理に役立ってきた一方で、デ・ブリトさんのように、遠隔地に住み、デジタルリテラシーがほとんどない何百人もの申請を、些細なミスで却下してきた。
政府が効率性向上のためにシステムをデジタル化するのは正しいが、それにはコストが伴うと、全国農業労働組合連合（INSS）の社会政策担当書記、エジャン・ロドリゲス氏はRest of Worldに語った。
「政府が国民への給付を迅速化するためにこの種のサービスを導入するのであれば、それは良いことです。私たちは反対しません」とロドリゲス氏は述べた。しかし、特に農業労働者の場合、仕事の性質上、申請が複雑になる可能性があると彼女は述べ、土地を個人が所有しているものの、複数の家族が作業している場合など、追加の書類が必要となるケースに言及した。ロドリゲス氏によると、「農業には多くの特殊性があり、特に農村労働者はアプリによって損害を被っています」という。
INSSの広報担当者はRest of Worldに対し、「自動化された決定はすべて特定の法的基準に基づいており、社会保障法で定められた基準が尊重されていることを確認しています」と語った。 *「自動化は恣意的に機能するものではありません。むしろ、従来の分析に適用される期待される基準を反映し、明確な規則と規制に従います。」
ラテンアメリカ諸国の政府は、プロセス改善のためにAIを導入しています。昨年、アルゼンチンはChatGPTを使用して裁判所判決の草案作成を開始しました。当局者によると、この取り組みは訴訟費用の削減と処理時間の短縮に役立ったとのことです。コスタリカはマイクロソフトと提携し、税務データ収集の最適化とデジタル納税領収書の不正チェックを行うAIツールを導入しました。エルサルバドルは最近、政府サービス向けツールを開発するためのAIラボを設立しました。
これらの取り組みの一部は有望な成果を上げている一方で、専門家は、技術的知識が乏しい当局者が透明性や回避策のないままこれらのツールを適用するリスクについて懸念を表明している。例えばエルサルバドルは、オックスフォード・インサイツの2024年政府AI準備指数において、ガバナンスと倫理、インフラ、人的資本の分野で低いランク付けされた。他国では、オランダ からインド に至るまで、AIを活用したシステムが監視や福祉給付の拒否に利用されていると非難されている。
ブラジルでは、学童の不登校の追跡、国民への生体認証の提供 サービス、チャットボットの強化に AI が使用されています。それは政府のファイル説明です。 Meu INSS アプリは、技術ソリューション、特にソーシャル プログラムを提供する国有企業 Dataprev によって作成されました。これは、コンピュータが画像を理解できるようにする AI の分野であるコンピュータ ビジョンと自然言語処理を使用して、保険契約者がアップロードした文書内のデータをスキャンします。
1 月、Dataprev はアプリのデータ分析と不正検出機能を強化するために約 1,050 万ドルを投資すると 発表 しました。 1 か月後、ユーザー向けのサービスをさらにパーソナライズする新しい AI 機能を導入しました。 INSSは、2025年末までに受理する申請の55%をAI搭載アプリ経由で処理することを目指しています。しかし、一部のユーザーは、この技術への依存度が高まれば高まるほど、手続きがさらに複雑になる のではないかと懸念しています。
決定に不満のあるユーザーは、内部の法務委員会に異議を申し立てることができますが、これもMeu INSSを通じて行う必要があります。彼らは平均して待ちます[278]日](https://www.gov.br/previdencia/pt-br/acesso-a-informacao/participacao-social/conselhos-e-orgaos-colegiados/conselho-de-recursos-da- previdencia-social/noticias/crps-apresenta-avancos-na-analise-de-processos-durante-reuniao-do-conselho-nacional-de-previdencia-social) にINSS によると、応答が得られます。
制度は改善されており、1月に農村部の労働者に対する給付金の受け取り拒否件数は約3万4,300件と、前年の約5万3,400件から減少した。しかしロドリゲス氏は、農業労働者や、より危険な条件や追加の事務作業を伴う仕事に就いている労働者のより複雑な申告を分析することはまだできないと述べた。地方労働者によるこうした請願の多くは却下されているが、これらのケースは人間が審査すべきだと彼女は述べた。
「多くの請願は（政府の）データベースに登録されていないか、十分な（データ）がありません」と、市民権機関であるブラジル社会保障法研究所の所長、ジェーン・ベルワンガー氏はRest of Worldに語った。これらの請求が人手で審査されなければ、「正しく、あるいは十分に分析されていないというだけで、法廷闘争に発展するでしょう」。
INSSの広報担当者はRest of Worldに対し、このアプリを使えば、以前の請願で誤っていた可能性のある情報を修正できると語った。広報担当者によると、一部の保険加入者はこのプログラムを悪用し、異なる結果を得ることを期待して複数の申請を行っているという。
毎月約8,400万のアクセス数を誇るMeu INSSは、国際社会保障協会からブラジルの「デジタル変革政策における成功事例」として称賛されている。しかし、このアプリはブラジルで最も脆弱な立場にある労働者の一部には依然として手の届かないものであり、彼らをさらに取り残す可能性があるとアナリストは警告している。
ブラジルの農村部における非識字率は2022年に約15%に達し、都市部の3倍に上った。 「ここの人たちはGmail、Facebook、Instagramさえ使えません」と、マラニョン州バラ・ド・コルダの農村労働者組合のフランシスコ・サンタナ会長はRest of Worldに語った。「手続きはますます自動化されていますが、特に郊外や地方に住む人々にとって、社会はそれに対応できていません。」
デ・ブリトさんにとって、アプリの導入は当初は安堵につながった。最寄りのINSS事務所までバスで4時間もかかるからだ。しかし、このアプリが彼女の病気手当（月額約260ドル）の申請を承認してくれた数少ない機会でさえ、デ・ブリトさんは病状を証明するための健康診断を機関が手配するまで4ヶ月も待たなければならなかった。検査結果は、複数の都市で予定され、一日中移動しなければならないことが多かったため、結果が出るのが遅れることが多く、給付金が支払われるまでさらに長い時間待たなければならなかったと彼女は語った。
2月に提出した退職金請求は却下され、3月に承認された。しかし、それは全国農業労働組合連盟（INSS）での人脈があったからこそだと彼女は語った。彼女の ケースはすぐにINSSの責任者に送られ、彼らはアプリの誤りを特定し、修正した。
「もしもう一度（給付金を）申請しなければならないとしても、アプリでは申請しません。あまりにも複雑で、本当に使いにくいからです」とデ・ブリトさんは言った。「あまり好きではありません。」