概要: ブラジルの労働裁判所で使用されているAIツール「ガリレウ」が、パラウアペバス第3労働裁判所に提出された訴状に隠された指示を検出したと報じられている。その指示は、AIに対し、訴状に表面的な異議を申し立てるだけで、文書の内容には異議を唱えないよう指示するものだったという。ガリレウは裁判官に警告を発し、隠された内容の処理をブロックした。その後、裁判官は手続き上の 措置を講じる前に、当該資料を再検討した。
Alleged: Conselho Superior da Justiça do Trabalho と Tribunal Regional do Trabalho da 4ª Região developed an AI system deployed by Conselho Superior da Justiça do Trabalho , Tribunal Regional do Trabalho da 8ª Região , 3ª Vara do Trabalho de Parauapebas , Judicial system of Brazil と Brazilian labor courts, which harmed Judicial system of Brazil , Brazilian labor courts , Epistemic integrity , Judicial integrity と Defendants in Brazilian labor cases.
関与が疑われるAIシステム: Galileu と AI-assisted legal document analysis systems
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
2.2. AI system security vulnerabilities and attacks
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Privacy & Security
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
インシデントレポート
レポートタイムライン
Loading...
Secretaria-Geral de Tecnologia e Inovação, General Secretariat for Technology and Innovationによるインシデント後のレスポンス
第4地域労働裁判所（TRT-RS）が開発し、労働司法最高評議会（CSJT）が国家化を進めた人工知能ツール「ガリレウ」は、パラウアペバス第3労働裁判所（PA）で審理された訴訟の訴状において、不正操作の試みがあったことを検知しました。この訴訟は、ルイス・カルロス・デ・アラウージョ・サントス・ジュニア判事によって、今週水曜日（5月12日）に下された判決で取り上げられています。
ガリレウは文書処理中に、人工知能自身に向けられた指示を含む隠された部分を検出しました。この内容は、システム…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベ ースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？