概要: ビンナル法律事務所の弁護士が、トランプ政権の人員削減をめぐる訴訟において、召喚状の取り消しを求める申し立て書を作成する際に、アントロピック社のクロード・コンソールを使用したと報じられている。その後、引用された判例には存在しない「架空の」引用文を含むバージョンを提出した。この弁護士はスーザン・イルストン連邦地裁判事に謝罪し、同事務所はAIによる誤り は容認できないとして、安全対策と研修を追加すると発表した。
Alleged: Anthropic developed an AI system deployed by Binnall Law Group と Jason Greaves, which harmed Epistemic integrity , Judicial integrity , Joseph Guy , Parties in Trump administration layoffs と Parties in American Federation of Government Employees, AFL-CIO v. Trump.
関与が疑われるAIシステム: Claude Console と Large language models
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
3.1. False or misleading information
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Misinformation
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
インシデントレポート
レポートタイムライン
Loading...
Lindsay R. McKasson, Jason Greaves, Jesse R. Binnallによるインシデント後のレスポンス
AIID編集者注：これは謝罪文全文の冒頭部分の抜粋です。PDF版は原文をご覧ください：https://fingfx.thomsonreuters.com/gfx/legaldocs/myvmylgokvr/Binnall%20AI%20apology.pdf。
私、ジェイソン・C・グリーブスは、偽証罪の罰則を承知の上で、私の知る限り、また信じる限りにおいて、以下のとおり陳述します。
- 本陳述は、バージニア州東部地区連邦地方裁判所に最初に提出され、その後規則45(f)に基づき本…
Loading...
5月18日（ロイター） - ビナール法律事務所の弁護士が、トランプ政権による政府職員解雇に関連する訴訟書類に、人工知能（AI）が生成した「架空の」引用文を含めたとして、サンフランシスコの連邦判事に謝罪した。
ジェイソン・グリーブス弁護士は、AI企業アントロピック社のクロード・コンソールを用いて訴訟書類の草稿を作成したが、その結果を十分に検証しなかったと述べた。グリーブス弁護士は、時間的制約がミスの一因となったとし 、事務所にはAI生成コンテンツはすべて独立した第三者によるレビュ…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？