レポート 6304

人権団体は、公共サービスにおけるAIの活用に伴う「高いリスク」について警告し、政府は人工知能 (AI) がもたらす危害に対する「強固な保護策」を優先する必要があると述べた。

アイルランド人権平等委員会 (IHREC) のリアム・ヘリック委員長は、国民は効果的な規制を強く望んでいると述べた。

「企業利益のために基本的人権の保護を剥奪するような、利己的で規制反対の言説には警戒しなければならない」と彼は述べた。

彼は、公共サービスや政府機関におけるAIの活用を検討しているアイルランド議会（Oireachtas）委員会の委員たちに語りかけた。

ヘリック氏は委員会委員に対し、公共サービスにおけるAIの活用は「特に基本的な権利や支援に関する決定を行う際に」高いリスクを伴うと述べた。

IHRECの監視・コンプライアンス責任者であるレベッカ・キーティンゲ氏は、海外では公共サービスにおける「アルゴリズムによる差別」の「衝撃的な」事例があると述べた。

例えば、彼女は2018年にオランダで発生した「悪名高い児童手当スキャンダル」を例に挙げた。このスキャンダルでは、税務当局が児童手当制度における不正を特定するために「極めて差別的な」アルゴリズムを使用していた。

彼女によると、独自の意思決定能力を持つこのアルゴリズムは、国籍をリスク要因の一つとして利用し、「申請におけるごく小さな事務処理上の誤りで、実質的に全ての国籍の人々がブラックリストに載せられる」事態を引き起こしたという。

「これは本当に壊滅的な人的被害をもたらしました」と彼女は委員会メンバーに語り、数万人が影響を受けたと付け加えた。

[ アイルランドは『AIアイランド』になり得るが、人工知能オフィスと監視所の設置に向けて迅速に行動する必要がある（新しいウィンドウで開きます） ]

社会福祉制度の充実度が高いデンマークも、詐欺対策を含む社会福祉制度の管理を支援するために様々なアルゴリズムを採用していると彼女は述べた。

同氏によると、市民権を指標として用いることに加え、世帯規模など「デンマークの社会規範に本質的に合致しない非典型的な特徴」も抽出しているという。

キーティンジ氏は、これは「社会的なスコアリング」に該当する可能性があると述べた。

一方、アイルランド自由人権評議会（ICCL）のシニアフェローであるクリス・シュリシャク博士は、委員会に対し、専用の予算、コミッショナー、技術専門家を擁する独立した国家AIオフィスの設立を推進するよう促した。

アイルランド企業省は、国家AIオフィスは2026年8月までに設立される予定で、アイルランドにおけるAIの「規制、イノベーション、そして展開」を網羅する中核拠点となると述べている。

シュリシャク博士は委員会メンバーに対し、「政府のどの省庁にも設置されるべきではない」と述べた。

ICCLのAI法に関する作業を主導するシュリシャク博士は、司法省が移民や国際保護に関する問い合わせに、これまでに3つの別々のAIチャットボットを使用していることを指摘した。

同氏は委員会メンバーに対し、情報公開請求により、同省は「入札手続きを実施しておらず、リスク評価や偏見テスト、環境影響評価を一切実施していなかった」ことが判明したと語った。