テキサス州司法長官ケン・パクストン氏は、ダラスに拠点を置く人工知能（AI）医療技術企業ピーシズ・テクノロジーズと、初の和解を成立させた。この合意により、同社が製品の正確性と安全性について一連の虚偽かつ誤解を招く声明を出した後、テキサス州の複数の病院に製品を導入したという疑惑が解決される。
テキサス州の少なくとも4つの主要病院が、ピーシズ・テクノロジーズに患者の医療データをリアルタイムで提供し、同社の生成AI製品が患者の状態と治療を病院職員向けに「要約」できるようにしていた。テキサス州司法長官による調査で、ピーシズが医療AI製品の正確性について虚偽の主張 を行い、公共の利益を危険にさらしていたことが判明した。ピーシズは、自社の医療AI製品が「非常に正確」であると主張するために、一連の指標を開発し、その製品とサービスの正確性を宣伝・マーケティングしていた。これには、エラー率または「重度の幻覚発生率」を「10万人あたり1人未満」とする広告やマーケティングも含まれていた。
パクストン司法長官の調査により、これらの指標は不正確である可能性があり、病院に対し同社製品の正確性と安全性について誤解を与えていた可能性があることが判明しました。
和解の一環として、ピーシズ社は自社製品の正確性の範囲を正確に開示することに同意しました。また、ピーシズ社は、患者の治療に同社の生成AI製品を使用する病院スタッフが、自社製品にどの程度依存すべきか、あるいは依存すべきでないかを確実に理解できるようにすることにも同意しました。
「高リスク環境で使用される製品を提供するAI企業は、国民と顧客に対し、そのリスク、限界、そして適切な使用方法について透明性を確保する義務があります。それを怠ることは無責任であり、テキサス州民の安全を不必要に危険にさらすことになります」とパクストン司法長官は述べました。「病院やその他の医療機関は、AI製品が適切かどうかを検討し、それに応じて従業員を訓練する必要があります。」
合意書を読むには、ここをクリックしてください。