概要: テキサス州司法長官は、臨床記録に使用されるヘルスケアAIシステムの精度について同社が虚偽の表示をしたとの申し立てを受け、Pieces Technologies社との和解を発表しました。州は、誤診率や幻覚発生率の低さを謳うマーケティング上の主張が、患者ケアの現場で同ツールを信頼している病院や臨床医に誤解を与えた可能性があると結論付けました。この和解により、将来の請求に制限が課され、パフォーマンスとリスクに関する透明性の向上が求められました。
Editor Notes: Timeline note: The incident ID date of 09/18/2024 is taken from the date the Texas Attorney General's Office announced its settlement with Pieces Technologies, Inc. The incident ID was created on 01/02/2026.
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
3.1. False or misleading information
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Misinformation
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
インシデントレポート
レポートタイムライン
Loading...

テキサス州司法長官ケン・パクストン氏は、ダラスに拠点を置く人工知能(AI)医療技術企業ピーシズ・テクノロジーズと、初の和解を成立させた。この合意により、同社が製品の正確性と安全性について一連の虚偽かつ誤解を招く声明を出した後、テキサス州の複数の病院に製品を導入したという疑惑が解決される。
テキサス州の少なくとも4つの主要病院が、ピーシズ・テクノロジーズに患者の医療データをリアルタイムで提供し、同社の生成AI製品が患者の状態と治療を病院職員向けに「要約」できるようにしていた。テ…
Loading...
9月18日、テキサス州司法長官(AG)は、ダラスに拠点を置くヘルスケアAI研究開発企業であるPieces Technologies, Inc.(以下「Pieces」)との和解合意を発表しました。この合意により、同社がヘルスケアAI製品の精度に関して虚偽、誤解を招く、または欺瞞的な主張を行ったという疑惑が解決しました。テキサス州司法長官事務所によると、同社はAI製品の広告を不正確に行い、その結果、患者に損害を与えた可能性があるとのことです。テキサス州司法長官事務所とPieces…
Loading...
