Incidentes Asociados
El Fiscal General de Texas, Ken Paxton, logró un acuerdo único con Pieces Technologies, empresa de tecnología de inteligencia artificial para el cuidado de la salud con sede en Dallas. El acuerdo resuelve las acusaciones de que la empresa implementó sus productos en varios hospitales de Texas tras realizar una serie de declaraciones falsas y engañosas sobre la precisión y seguridad de sus productos.
Al menos cuatro importantes hospitales de Texas han proporcionado los datos de salud de sus pacientes en tiempo real a Pieces para que su producto de IA generativa pueda "resumir" el estado y el tratamiento de los pacientes para el personal hospitalario. Una investigación realizada por el Fiscal General de Texas descubrió que Pieces realizó afirmaciones engañosas sobre la precisión de sus productos de IA para el cuidado de la salud, poniendo en riesgo el interés público. Pieces desarrolló una serie de métricas para afirmar que sus productos de IA para el cuidado de la salud eran "altamente precisos", incluyendo publicidad y marketing de la precisión de sus productos y servicios, afirmando una tasa de error o "tasa de alucinaciones graves" de "<1 por 100,000".
La investigación del Fiscal General Paxton determinó que estas métricas probablemente eran inexactas y podrían haber engañado a los hospitales sobre la precisión y seguridad de los productos de la compañía.
Como parte del acuerdo, Pieces se comprometió a revelar con precisión el grado de precisión de sus productos. Pieces también se comprometió a garantizar que el personal hospitalario que utiliza sus productos de IA generativa para tratar a los pacientes comprenda hasta qué punto deben o no confiar en sus productos.
“Las empresas de IA que ofrecen productos utilizados en entornos de alto riesgo tienen la obligación, ante el público y sus clientes, de ser transparentes sobre sus riesgos, limitaciones y uso apropiado. Cualquier otra medida es irresponsable y pone en riesgo innecesariamente la seguridad de los tejanos”, declaró el Fiscal General Paxton. “Los hospitales y otras entidades sanitarias deben considerar si los productos de IA son apropiados y capacitar a sus empleados en consecuencia”.
Para leer el acuerdo, haga clic aquí.